캐릭터 생성 정책

썸톡은 이용자가 직접 만든 AI 캐릭터로 대화하는 서비스입니다. 캐릭터는 공개 여부와 관계없이 다른 이용자, 권리자, 청소년에게 영향을 줄 수 있으므로 제작 단계부터 안전 기준을 적용합니다.

1. 적용 범위와 판단 기준

  1. 이 정책은 공개 캐릭터뿐 아니라 비공개 캐릭터에도 적용됩니다. 비공개 캐릭터라도 신고, 자동 필터, 보안 점검, 법령상 의무 이행이 필요한 경우 검토될 수 있습니다.
  2. 캐릭터 판단은 이름 하나만 보지 않고 설명, 이미지, 태그, 세계관, 예시 대화, 첫 메시지, 제작자가 입력한 숨은 설정, 공개 방식, 이용자 신고 내용을 함께 봅니다.
  3. 운영자는 법령, 청소년 보호 기준, 앱스토어와 플랫폼 정책, 방송통신심의위원회 인터넷내용등급서비스 등 유사 콘텐츠 등급 기준, AI 캐릭터 서비스의 오용 가능성을 종합해 판단할 수 있습니다.
  4. 같은 표현이라도 청소년으로 보이는 캐릭터, 실제 인물, 권리자 표시, 성적 맥락, 폭력 맥락, 광고 목적과 결합하면 더 엄격하게 판단합니다.
  5. 정책 위반 여부가 불명확한 경우 운영자는 우선 노출 제한, 검색 제외, 재분류, 수정 요청처럼 위험을 낮추는 조치를 할 수 있습니다.

2. 제작자가 입력하면 안 되는 정보

  1. 타인의 개인정보, 연락처, 주소, 계정 정보, 금융정보, 주민등록번호, 건강정보, 사생활 정보는 캐릭터 정보에 넣을 수 없습니다.
  2. 타인의 저작물, 상표, 로고, 캐릭터 설정, 사진, 음성, 이름, 초상, 필명, 활동명은 권리자의 허락 없이 사용할 수 없습니다.
  3. 실제 인물로 오인될 수 있는 실사풍 이미지, 딥페이크, 얼굴 합성, 유명인의 특징을 그대로 모방한 이미지는 제한됩니다.
  4. 특정 개인이나 단체를 사칭하거나, 운영자 또는 제휴사 공식 캐릭터처럼 보이게 만드는 이름과 설명은 사용할 수 없습니다.
  5. 외부 결제, 외부 링크, 광고, 리워드 유도, 스팸, 피싱, 사기성 안내를 캐릭터 목적처럼 넣을 수 없습니다.
  6. 안전 필터, 결제, 연령 확인, 신고, 차단, 모델 제한을 우회하도록 지시하는 문구는 캐릭터 설정에 넣을 수 없습니다.

3. 아동과 청소년 보호

  1. 아동, 청소년 또는 아동과 청소년으로 명백히 인식될 수 있는 사람이나 표현물이 성적 상황에 놓이는 캐릭터는 만들거나 공개하거나 공유할 수 없습니다.
  2. 나이를 성인으로 적어도 외형, 말투, 교복, 학교 배경, 신체 발육 묘사, 보호자 관계, 소개 문구, 태그를 종합해 미성년자로 오인될 수 있으면 성적 표현과 결합할 수 없습니다.
  3. 미성년자 대상 성착취, 성적 유인, 그루밍, 학대, 착취, 위험 행위 조장, 가출 유도, 자해와 타해 유도는 금지됩니다.
  4. 청소년에게 유해할 수 있는 민감 캐릭터는 별도의 연령 확인, 세이프티 필터, 검색 제한, 추천 제한 대상이 될 수 있습니다.
  5. 청소년 보호 위반은 중대한 위반으로 보며, 반복 여부와 관계없이 즉시 비공개, 삭제, 계정 제한, 관계기관 신고가 이루어질 수 있습니다.

4. 성적 표현과 민감 콘텐츠 기준

  1. 세이프티 캐릭터는 기본 환경에서 노출될 수 있는 캐릭터입니다. 노골적 성행위, 직접 노출, 성적 신체 강조, 성적 접촉을 목적으로 한 설정은 세이프티 캐릭터로 허용되지 않습니다.
  2. 민감 캐릭터는 성인 이용자를 전제로 별도 제한 환경에서만 노출될 수 있는 캐릭터입니다. 성인 간 로맨스, 제한적인 선정성, 성인 대상 분위기 표현은 맥락에 따라 민감 캐릭터로 분류될 수 있습니다.
  3. 민감 캐릭터라도 성폭력, 비동의 성행위, 강압, 협박, 취약한 사람 착취, 불법 촬영, 수간, 시신 훼손, 근친상간, 아동과 청소년 대상 성적 표현은 금지됩니다.
  4. 성기, 항문, 음모, 여성 유두처럼 주요 신체 부위의 직접적이고 노골적인 노출은 캐릭터 이미지, 프로필, 에셋, 공개 미리보기에서 허용되지 않습니다.
  5. 착의 상태라도 신체 주요 부위 형태를 과도하게 강조하거나 성행위 장면으로 오인될 수 있는 구도, 문구, 태그가 결합되면 제한될 수 있습니다.

5. 폭력, 자해, 불법행위

  1. 범죄, 테러, 인신매매, 마약 또는 약물 남용, 사기, 피싱, 도박, 불법 촬영, 스토킹을 구체적으로 안내하거나 실행을 돕는 캐릭터는 금지됩니다.
  2. 자해, 자살, 섭식장애, 타해를 미화하거나 구체적 방법을 안내하는 캐릭터는 금지됩니다.
  3. 극단적 폭력, 잔혹한 신체 훼손, 고문, 살해를 즐길 거리로 소비하도록 유도하는 캐릭터는 제한됩니다.
  4. 범죄 수사극, 액션, 판타지 전투처럼 허구적 맥락의 폭력 표현은 가능하지만, 현실의 불법 행위를 실행하도록 돕는 상세 지시는 허용되지 않습니다.
  5. 의학, 법률, 금융, 안전과 관련된 전문 조언을 제공하는 캐릭터는 실제 전문가처럼 오인되지 않도록 명확한 한계를 가져야 하며, 위험한 결정을 대신 내리도록 유도할 수 없습니다.

6. 혐오, 괴롭힘, 차별, 기만

  1. 인종, 국적, 지역, 종교, 성별, 성적 지향, 성별 정체성, 장애, 나이, 질병, 직업 등 보호되어야 할 속성을 이유로 특정 개인이나 집단을 비하, 혐오, 차별, 조롱하는 캐릭터는 금지됩니다.
  2. 특정 이용자나 제3자를 괴롭히거나 모욕하거나 신상 공개를 유도하는 캐릭터는 만들 수 없습니다.
  3. 실제 인물, 학교, 회사, 단체, 커뮤니티를 겨냥한 조리돌림, 사칭, 명예훼손 목적의 캐릭터는 제한됩니다.
  4. 이용자를 속여 개인정보, 금전, 외부 계정, 인증번호, 민감한 사진이나 영상을 요구하도록 설계한 캐릭터는 금지됩니다.
  5. 정치, 사회, 종교, 의료, 투자처럼 민감한 주제의 캐릭터는 이용자가 허구 캐릭터와 사실 안내를 구분할 수 있어야 합니다.

7. 이미지, 에셋, 프로필 기준

  1. 프로필 이미지와 에셋은 캐릭터 정책의 일부입니다. 텍스트가 안전해도 이미지가 정책을 위반하면 캐릭터 전체가 제한될 수 있습니다.
  2. 실존 인물 사진, 얼굴 합성, 딥페이크, 유명인의 초상과 유사한 이미지는 권리 침해와 오인 가능성이 있으면 사용할 수 없습니다.
  3. 미성년자로 보이는 인물의 노출, 성적 자세, 성적 신체 강조, 교복과 성적 표현이 결합된 이미지는 금지됩니다.
  4. 직접 노출, 노골적 성행위, 잔혹한 신체 훼손, 혐오 상징, 폭력 선동 문구가 포함된 이미지는 공개 미리보기와 검색 노출에서 허용되지 않습니다.
  5. QR 코드, 외부 링크, 연락처, 결제 유도, 광고 문구를 이미지 안에 숨기거나 넣는 행위는 제한됩니다.
  6. AI 생성 이미지라도 제3자의 권리, 법령, 청소년 보호 기준을 침해하면 사용할 수 없습니다.

8. 공개, 검색, 추천, 분류

  1. 공개 캐릭터는 검색, 추천, 미리보기, 공유에 노출될 수 있으므로 제목, 대표 이미지, 태그, 한 줄 소개에 더 엄격한 기준을 적용합니다.
  2. 비공개 캐릭터는 다른 이용자에게 노출되지 않더라도 법령 위반, 청소년 보호 위반, 권리 침해, 서비스 오용 위험이 있으면 제한될 수 있습니다.
  3. 제작자가 세이프티 캐릭터로 설정했더라도 실제 내용이 민감하거나 금지 기준에 가까우면 운영자가 재분류하거나 노출을 제한할 수 있습니다.
  4. 반복적으로 잘못 분류하거나 금지 태그를 우회하면 공개 권한, 검색 노출, 계정 이용이 제한될 수 있습니다.
상태노출 기준운영 조치
세이프티기본 환경에서 노출 가능한 수준검색과 추천 가능, 신고 시 재검토
민감성인 또는 제한 환경에서만 볼 수 있는 수준연령 확인, 필터, 검색 제한 적용 가능
제한수정이 필요하거나 맥락 검토가 필요한 수준비공개, 검색 제외, 수정 요청
금지법령, 청소년 보호, 권리 침해, 안전 기준을 중대하게 위반삭제, 계정 제한, 관계기관 신고 가능

9. 등급 참고 기준

아래 표는 운영상 참고 기준입니다. 실제 판단은 캐릭터 전체 맥락과 이용 환경을 함께 봅니다.

등급노출성적 표현폭력언어처리 기준
4등급주요 부위 직접 노출성범죄, 아동과 청소년 대상 성적 표현, 노골적 성행위잔혹한 살해나 고문노골적 외설, 혐오 선동금지
3등급전신 또는 강한 신체 강조성인 간 노골적이지 않은 성행위 암시살해, 심한 상해강한 비속어민감에서도 제한 가능
2등급부분 노출, 선정적 복장착의 상태의 성적 접촉, 강한 유혹 표현상해, 위협거친 비속어세이프티 상한 후보
1등급노출복장, 가벼운 스킨십격렬하지 않은 키스, 로맨스경미한 격투일상 비속어맥락에 따라 허용
0등급노출 없음성적 표현 없음폭력 없음비속어 없음허용

10. 검토와 제재

  1. 운영자는 자동 필터, 이용자 신고, 권리자 신고, 내부 검토로 정책 위반 여부를 확인할 수 있습니다.
  2. 위반이 확인되면 수정 요청, 비공개, 삭제, 검색 제한, 공개 제한, 세이프티 재분류, 일시 이용 제한, 영구 이용 제한, 관계기관 신고 등의 조치를 할 수 있습니다.
  3. 반복 위반, 청소년 보호 위반, 불법 콘텐츠, 개인정보 침해, 결제와 리워드 악용, 보안 기능 우회는 사전 경고 없이 강한 조치가 이루어질 수 있습니다.
  4. 신고 검토를 위해 필요한 범위에서 캐릭터 정보, 관련 메타데이터, 신고자가 제출한 자료, 운영 로그를 확인할 수 있습니다.
  5. 조치에 이의가 있는 이용자는 biz@sometalk.me로 캐릭터명, 계정 정보, 조치 내용, 소명 자료를 보내 이의제기를 할 수 있습니다.

11. 정책 변경

  1. 본 정책은 법령, 플랫폼 심사 기준, 서비스 기능, AI 모델 특성, 신고 사례, 운영 환경 변경에 따라 개정될 수 있습니다.
  2. 변경할 때는 시행일과 주요 변경 내용을 서비스 안이나 sometalk.me를 통해 알립니다.
  3. 중대한 안전 위험이나 법령상 필요가 있는 경우, 변경된 기준을 기존 캐릭터에도 적용할 수 있습니다.

부칙 이 정책은 2026년 6월 1일부터 시행합니다.