회사의 업종: 온라인 중고거래 플랫폼
개인정보 노출과 직거래 유도 방지를 위한 필터링 AI 도입

프로젝트 금액: 2,000만 원
프로젝트 기간: 30일

프로젝트 의뢰 전에 기업이 겪고 있던 상황:
- 사용자들이 게시글과 댓글을 통해 휴대폰 번호나 이메일을 공개하여 직거래를 유도하는 사례가 빈번해졌습니다. 이러한 행위는 사기 및 개인정보 유출을 촉발하고, 플랫폼의 신뢰성을 저하시켜 문제를 일으켰습니다.
-인력으로 모든 게시물을 모니터링하기에는 한계가 있어 자동화된 솔루션이 필요했습니다.

솔루션:
-비속어와 개인정보 필터링 AI를 도입하여 게시물 및 댓글에서 전화번호, 이메일 등 개인정보를 자동으로 감지하고 차단합니다.
-자연어 처리(NLP) 기술을 적용하여 숫자, 특수문자 등을 사용한 우회 표현까지도 정확하게 식별했습니다.
-직거래를 유도하는 의심 표현을 사전에 감지하여 관리자가 게시물 승인을 보류하거나 알림을 받도록 설계했습니다.

정확도를 높여 나간 방법:
-AI 모델을 실제 사용자 데이터로 지속 학습시켜, 새로운 패턴의 우회 표현 및 개인정보 노출 방식까지 정확하게 대응하도록 하였습니다.

결과:
-직거래로 인한 문제 발생이 80% 감소하고, 개인정보 노출 건수가 대폭 줄었습니다.
-플랫폼의 신뢰도와 사용자의 안전도 향상되었으며, 고객 지원에 필요한 인력과 비용이 크게 절감되었습니다.

회사의 업종: 익명 커뮤니티 앱
비속어 및 혐오 표현 필터링으로 건전한 커뮤니티 환경 구축

프로젝트 금액: 2,500만 원
프로젝트 기간: 30일

프로젝트 의뢰 전에 기업이 겪고 있던 상황:
-익명성이 보장되는 커뮤니티 특성상 비속어, 혐오 표현이 자주 사용되어 신규 사용자 유입이 저조하고, 기존 사용자들의 활동성이 감소하고 있었습니다.
-사용자 신고 시스템에만 의존하다 보니 대응이 늦어 커뮤니티 분위기가 악화되고 있었습니다.

솔루션:
-실시간으로 게시물과 댓글을 분석하는 비속어 필터링 AI 도입으로 부적절한 표현을 자동으로 감지 및 차단하였습니다.
-심층 학습 기술을 적용하여 신조어나 새로운 형태의 비속어를 자동으로 인식하도록 했습니다.
-사용자들에게 경고 메시지를 자동으로 발송하여 올바른 사용 습관을 유도했습니다.

정확도를 높여 나간 방법:
-커뮤니티의 실제 대화 패턴을 학습시켜 AI가 지역적, 문화적 표현을 인식할 수 있게 하였으며, 다양한 변형된 비속어도 식별할 수 있도록 지속적인 업데이트를 적용했습니다.

결과:
-부적절한 콘텐츠 노출이 75% 감소하고, 커뮤니티 내 분위기가 크게 개선되었습니다.
-신규 사용자 유입률이 상승했고, 기존 사용자의 이탈률도 크게 줄어들었습니다.

회사의 업종: 라이브 스트리밍 플랫폼
실시간 채팅에서 비속어 및 개인정보 보호를 위한 AI 솔루션

프로젝트 금액: 3,000만 원
프로젝트 기간: 45일

프로젝트 의뢰 전에 기업이 겪고 있던 상황:
-스트리밍 중 실시간 채팅에서 비속어와 개인정보 노출이 빈번히 발생해 스트리머와 시청자 모두 피해를 입고 있었습니다.
-채팅 모니터링이 불가능한 상황에서 법적 제재의 위험이 커지며, 서비스의 신뢰도가 저하되고 있었습니다.

솔루션:
-실시간 채팅을 분석하는 비속어 및 개인정보 필터링 AI를 도입하여 부적절한 채팅 메시지를 자동으로 필터링하고 차단하였습니다.
-문맥을 이해할 수 있는 AI로 우회 표현까지 정확하게 감지하였으며, 스트리머가 채팅 필터링 강도를 자유롭게 조절할 수 있는 기능도 추가했습니다.

정확도를 높여 나간 방법:
-스트리밍 중 발생하는 다양한 대화 패턴과 시청자들의 표현을 학습하여, AI가 더욱 정교하게 실시간으로 반응할 수 있도록 했습니다.

결과:
-부적절한 채팅 메시지가 85% 감소하고, 스트리밍 환경이 크게 개선되었습니다.
-시청자의 만족도가 증가하면서 플랫폼 이용 시간이 늘어났고, 규제 준수로 법적 리스크도 줄어들었습니다.

회사의 업종: 교육용 온라인 플랫폼
학생 채팅에서의 부적절한 언어와 개인정보 노출 차단

프로젝트 금액: 3,000만 원
프로젝트 기간: 60일

프로젝트 의뢰 전에 기업이 겪고 있던 상황:
-온라인 학습 중 학생들이 부적절한 언어를 사용해 학습 분위기를 해치고 있었습니다.
-미성년자의 개인정보 노출도 큰 문제가 되었으나, 인력으로는 이를 실시간으로 모니터링하기 어려웠습니다.

솔루션:
-비속어 및 개인정보 필터링 AI 도입으로 학생들의 채팅 및 게시글을 실시간 모니터링하고, 부적절한 내용을 자동으로 차단했습니다.
-학생의 안전을 위해 개인정보 노출을 감지해 관리자에게 알림을 보내는 기능을 추가했습니다.

정확도를 높여 나간 방법:
-교육에 맞춘 필터링 규칙을 강화하고, 연령대에 맞는 언어 사용 패턴을 학습시켜 AI의 필터링 정확도를 높였습니다.

결과:
-부적절한 언어 사용이 90% 감소하여 건전한 학습 환경이 조성되었습니다.
-학생과 학부모의 만족도가 향상되었고, 플랫폼 신뢰도가 높아졌습니다.

회사의 업종: 온라인 게임 개발사
다국어 비속어 필터링과 사기 행위 예방을 위한 AI 도입

프로젝트 금액: 3,000만 원
프로젝트 기간: 50일

프로젝트 의뢰 전에 기업이 겪고 있던 상황:
-게임 내 채팅에서 비속어 사용, 개인정보 노출, 직거래 유도 등이 빈번히 발생하여 커뮤니티의 질이 저하되고 있었습니다.
-사기 행위가 증가하며 게임 사용자들의 불만이 커졌고, 사용자 이탈이 가속화되고 있었습니다. 글로벌 게임 서비스로 인해 다국어 표현 필터링의 어려움도 있었습니다.

솔루션:
-다국어를 지원하는 비속어 및 개인정보 필터링 AI를 도입하여 다양한 언어에서 발생하는 부적절한 표현을 실시간으로 감지 및 차단했습니다.
-AI를 통해 사기 행위 패턴을 분석하고, 직거래 유도 등 의심스러운 행동이 발생하면 관리자에게 알림을 보내도록 했습니다.
-게임 이용 약관 위반 시 자동으로 제재를 가하는 시스템을 구축해 커뮤니티 질서를 유지했습니다.

정확도를 높여 나간 방법:
-다국어와 관련된 비속어 및 사기 행위 패턴을 지속적으로 학습시켜, AI가 새로운 유형의 사기 행위와 변형된 표현에도 신속하게 대응하도록 개선했습니다.

결과:
-부적절한 채팅 메시지와 사기 행위가 80% 이상 감소하였으며, 게임 커뮤니티의 질이 크게 향상되었습니다.
-사용자 만족도와 게임 이용 시간이 증가해 매출 상승에 기여했습니다.