오픈AI, AI 생성 이미지까지 가려내는 아동 성착취물 탐지 도구 무료 제공…챗GPT엔 경고·24시간 이용 중지

검증된 기관에 API로 무상 제공…AI 생성 여부 신호 담은 첫 범용 분류기

챗GPT서 관련 시도 땐 경고·대화 삭제, 반복하면 계정 폐쇄·당국 신고까지

방패 안 이미지 목록을 돋보기가 살피고 양옆에 경고 표시·일시정지 시계·도움의 손 아이콘이 있는 온라인 안전 개념 삽화
유해 이미지 탐지와 경고·이용 중지·도움 안내로 이어지는 온라인 아동 보호 조치를 표현한 개념도. 실제 오픈AI 도구 화면이 아닙니다. AI 생성 삽화. 실제 인물이나 현장 사진이 아닙니다.

오픈AI가 16일(현지시간) 온라인 아동 성착취물(CSAM)을 찾아내는 새 이미지 분류 도구와 챗GPT 안의 차단·경고 조치, 개발자용 안내서, 아동 보호 수사기관 지원 계획을 한꺼번에 내놨다. 생성형 AI로 만든 이미지까지 악용되는 상황에서, 탐지부터 대응까지 업계가 함께 쓰는 도구를 늘리겠다는 취지다.

AI가 만든 이미지인지도 알려 주는 탐지기…검증된 기관에 무료

새 분류기는 이미지에서 학대의 시각적 징후를 찾아, 이전에 보고된 적 없는 새로운 이미지도 가려내도록 설계됐다. 결과를 점수로 돌려줘 검토 인력이 어떤 이미지를 먼저 살펴야 할지 정하도록 돕는다. 오픈AI는 이 도구가 해당 이미지가 AI로 만들어졌을 가능성을 따로 알려 주는 신호를 갖춘, 널리 쓸 수 있는 첫 CSAM 분류기라고 설명했다. 개발 과정에는 미국의 아동 착취 신고 창구를 운영하는 비영리단체 NCMEC(미국 실종·착취아동센터)가 학습과 평가를 도왔다.

분류기는 심사를 거친 기관에 오픈AI API를 통해 무료로 제공된다. 업계 연합체인 테크연합(Tech Coalition)과 오픈소스 안전 도구 단체 ROOST가 보급을 함께 맡는다. 오픈AI가 이용자 업로드 이미지로 기존 보호 장치와 비교한 결과, 새 분류기는 비슷한 수의 학대 이미지를 찾으면서도 검토 대상으로 표시하는 이미지는 약 48% 적었고, 표시된 이미지가 실제 학대물일 가능성은 약 2배 높았다. 초기 참여 기업의 시험에서는 고신뢰 판정의 72%가 새로운 CSAM으로 확인됐다는 결과도 소개됐다. 이 수치들은 오픈AI와 초기 참여사가 밝힌 자체 평가다.

챗GPT서 찾으려 하면 경고하고 24시간 이용 중지

챗GPT에는 학대물을 찾으려는 시도를 끊는 경고 기능이 추가된다. 경고 화면은 아동을 성적으로 다루는 것이 AI 생성물이라도 피해를 낳는다는 점과 그 결과를 설명하고, 행동을 멈출 수 있도록 전문 지원 기관을 안내한다. 동시에 해당 대화를 지우고 24시간 동안 챗GPT 이용을 중지한다. 위반이 반복되면 이용 제한이 길어지고, 결국 계정 폐쇄나 당국 신고로 이어질 수 있다.

개발자 안내서·수사기관 지원도…"한 회사로는 못 막는다"

오픈AI는 테크연합, 손(Thorn), NCMEC, 인터넷감시재단(IWF)의 의견을 반영한 개발자용 CSAM 대응 안내서도 공개했다. 서비스 단계별로 이용자 신고 창구, 탐지 도구, 의심 사례 검토·신고 절차를 갖추는 방법을 담았다. 아동 보호 전담 수사기관에는 긴 채팅 기록과 법적 절차 자료를 검토하고 연결고리와 시간순 정리를 돕는 AI 도구와 교육을 제공할 계획이며, 이용 여부는 기관의 승인과 프로그램 요건에 따라 정해진다.

오픈AI는 온라인 아동 보호가 개별 기업만으로는 해결할 수 없는 문제라며 업계·보호단체·수사기관과의 협력을 강조했다. 다만 이번 발표는 회사의 도구 공개와 자체 평가 결과로, 실제 현장의 탐지 효과는 앞으로 도구를 쓰는 기관들의 운영 결과를 통해 확인될 전망이다.

참고 자료: 오픈AI 공식 블로그 「Strengthening the fight against online child sexual abuse with new tools and support」

똑똑한 로봇 애완동물 장난감 스마트 ... 19,480원
똑똑한 로봇 애완동물 장난감 스마트 AI 반려동물 펫 로봇 가방에 걸린 귀여운 인형 장식품 가정용 감정교류 인형 액세서리 MOYALIE
https://ads-partners.coupang.com/image1/HiD8Nb_XrXvlY8guHuPEWE_ksMvtz2jlL7eu9FYvp3v51gvNI2qGR7giLDzqQC7wp0cKmAC5jUpr4hBEXJs0_dsK2m0wPiXOJketYXQjfu1CGzc98GmpZPpLDqtwZoYvUqubzodoOmvFlnNEhdnwA8Drq9e-_rBXjIR13bmouxmuEOGzmPyIznsEjEpjfgEAdxjFr5L7syB-2x6Ajy72YKLbU2KyqJHe9fi_X0jCJ9ofIKdDb5Kqs6_mCQO9uYAyTMS3MBciZqW5jPqcNBbCpKwwoA19omBKjsUXAVaCSX5cojleS7_eGx3wVtzOWpb_hmmxnymQERYnQEJHdyG7HmR1Jcj6NSgONjUFHfFTOtiMwr9ct8zJhpLfn5Bcy0kU576IK7dsOk8XtQBG28sbGVEPX9cQ_wy6X5qEL5xMiXUPsY6pEOhYM0ZC_sz7DZaP96HTDWGSTxXSYu9zWCtqfMJMqIrid0unXXn4elK9dCR7AJVvvXZoCYBAsncwxmABC2D45eLnH1izZDWiXiFa67CjiH2lIQ16FWf9cYFu4ymPeO6G
자세히보기
SNS화제 탁구공빙고 계란판놀이 게임... 14,270원
SNS화제 탁구공빙고 계란판놀이 게임 풀세트, 1개
https://ads-partners.coupang.com/image1/8YJ_C5yFFoNr7-Jy8ZZDEaQ2o7vVx0ZCeucl2IX8owJdfRhWLDPsZOkDml9K0VxaVWHFJuSW-cDu2A-FEpN1yTNv1jeorWpPnfO5GSs1b1Xag9qKJhz0Mz4Tng2TULUFzJT0Bp-WuBbGEozTwhKxiJ6GGnWYVLYlQMMCcDHk-NQ9LkyoGz6EoP24VTbnNIkryO1xuEYy7wtPwdDoMIG4y06iX4zWdplQH_c6yafVYU746UViXkIqyt49ifAAM7xWs_D3-mSdj-VZTGcC_T9ICuATb1XeapX4CaXwOuXJNAPUcXBK9IYRuXI6ppFBGca8H6qLTsS6La0KXfVYWB9Ryj_xsrhMBeSLcjwDEPfMbTcgu-pIp7ihyE5GFDQUMwXRWXVLzv3JSjaiukJAAeN7oPDbvmjlJYb-hU5rXt0U5S744t1oQqae6womqRrX0KGpLz0g3w0uZAmwXHMpYNp5A_i5R65soHMB0q33OAx-l8T97fA6qUBiTWXa3ZolAL6-nXXs1Q0Vh4QWBzAe2C3Rdn6g_cvuPyk=
자세히보기
크레욜라 글로블스 3입 선택(일반,표... 8,500원
크레욜라 글로블스 3입 선택(일반,표정)
https://ads-partners.coupang.com/image1/-Jrgc6TIp8pve9Pk-AmM8a99LaymJL5MeO-QaBeDpbKQWKznBxZoza_MdP2xePVu1iDZutN3ZgBT_BwWt-RGb3DyJCcbpXMTi4_4c9QVCHwLUXw4nkOJ_MTSF4b_Q87kjt05CM7lZIO8ywMXWfSfJ_v06POcpz_KHuRsZdUGWlcIRt77A5D3ArwstwLTOutWAsDOsyeGr-kRc5yiiunSZFy54lm5J29zzOJmrR46CauvWDQxILIJnI1Qv1z-45RHWnxU_HOmHnQ8U3uofVgqsUjdEIKRKRATl44gUG1zEOEi0T4mZmta7cuN7NBB-zoVwAest6NK546cgiH8yhXj90UBumq2L-fx5V1NUKePpRuxk40SKTPrxi8yGhat4Rjum1GYd4QMxnjCa4HtQFIvu8oh-QHt3PBe2IE6tuzvB0cbzjLg6nk7EqIR1BXLEb0dTlwj6YeN_celqkX9U1O94wBCYcyjPGAu6TVvN-rlSHbucLjg3ESJdeNnODUUedOrKgQ-3UigtqkCHqi1bsVTgi9p2oOEXxo4OpDRO8OZvGY0_Q==
자세히보기
토요요 악어 사격 미니 오락실 키즈 ... 27,900원
토요요 악어 사격 미니 오락실 키즈 장난감 D-EY1
https://ads-partners.coupang.com/image1/ltPmWoZY6UvsF5uollaUsS05UCK7T_XJd7gWXNKTEjJabmCOxC4TWd8Bz0OG-3D6Vgfmm2ZDE1gyIGyl7lI5W1H99tefvo0H-5JFPS_9V8Iog0G8r6vJ7iiv30YyVhivljEiw8I87kV385J1yTrjvdvzh-eusg6V-zbZm1n8erHoVmw0mRoyk8t1XhYvbzLhmKFq626jE6PbQhK-oGA5_EjIfH1Qrd2loLFuvesnTgTHwvZvQZmm4MssU2H8bQ-63jB0seLznW8EWGKolrYq1JPk0K56E0OfGruOMBqRGW7fgro-cbogZYha-xqn1wKEMgwxge7va_KBsCOp36EFMbfDsF6qEGBlK2hLQ_aaXYeJkXugha5GCzq5jELXS2ehOSogl6090Hy3XP7rn-69s6kYXkv17-j4a-7WAt0tJekqNCFOjZg3tqTKXTxY0ppWvXxIhX4PEGiIHf50i3WJEOVr0alp0RVcbizRlvyD9UtKLmbsghCg_jJzQ-o1gnq7juJTswNWB9stfvCFvfszY4BPaKaVOhqoLr6qzIzIqm-nNw==
자세히보기
캐치티니핑 티니핑 노트북 111,800원
캐치티니핑 티니핑 노트북
https://ads-partners.coupang.com/image1/M0U4vwim627MlI10M5pHoRIKHJp20NP7XhIglqprIJ93e0YevANOiYaUwiAdyb-gsrrM4xL6hiImZtRG7dbNVQYA2P99_e33_WUZeftBBJYVOwVgscP1Ega8Xs66MCee2Pi0axQrIsEDc7f8ytyuP5mDQom_Qude9_KO6Wk8RjNHL_haKV7yPX1GIQ-gDK-IqJ-4IPzu126iqSM1Vv_FszIAtJoVofuFy4C8W4ql6pdBMZ-tfH-aYEjiLviRD4W6FcGbaXoFdjZxpz_AW2m8fo4azzzSKGyheMdI1mrqXMWMhzxSYcMYcoNFa_PGEqtrel2eOlxT6NpPNiMVk031O_MUE2z4hEXuyogjSNLbjGWYNsc9p026NzCsxeMognbvI155zpvlg0jgRgQ7rVnYLp-xnd-ZCsyNUJesE_hLcvEH79b5QF7QIgyBcCqiPnTX37QPyBsrHQ_nWHpLl6Ki_oIg118fN_Rse4QjsFtj7UZdahlZHpZE3UqanZ2MnWXvupDwMTseqfE4DFnEj1Fqa-KnLA==
자세히보기
미마루 월드 자석블록 KC인증 자석 ... 58,990원
미마루 월드 자석블록 KC인증 자석 블럭 피큐어 세트 대용량 장난감 패키지, 자석블럭 400개 + 캐릭터 20개, 1세트
https://ads-partners.coupang.com/image1/lJybLkHX9LgXR3FKlDfuXKBKIxV4qcIILIYeaV0m-eqCPe6eR6tR3yW0S7czX1In_pws2YzfAW_EY2wsAYKF2FQKnAfF3L5l7KVRK9G5PcHN1jBWsJV_DTay748LBCMJvA4ls4RGmOzI6-_tHwfs_R-n9RI-ZFouQz1C_2fpbRY7JOe09cZCbfYP4-VcSNAaw5pVKegvjWOXr5XwccPmrrPGR4EI0lNP5kpIe8tPVY612-3V6w0j3YOMA8afyC7x_BNiwZqg6vAw1H8xCb9NjD-8UlOkg5YTEbkxTdjJKMx04Jq-r9crJniNBNUtGQ9cciUDuppKI_oZFEIeEkh1OmSYCrtqUGnrGUCQPDtEf3njmm6Gu3RRjc8lk7zs2mjeoTOg8bfqT0te9N9y-JpVs6A4i9ardL1u5nOdJTLJ-oZl09gzgpiXTEea_NF-vWQZ50xHhQAv32zuruSj_r_mfVgd2ruIl4LBegF1-W6tEFZoY7_ZjTJ5BYF5HEc19RhpUQAQpY6rfGPgPQ1TJcRWtK2IvxCo3EuiJQ==
자세히보기
픽미 스파이더 끈끈이 벽타기 4종 x... 6,400원
픽미 스파이더 끈끈이 벽타기 4종 x 5p 세트, 레드 + 그린 + 옐로 + 블루, 2세트
https://ads-partners.coupang.com/image1/onaunSi8hLoik8FBonmRVe9haOZXtR28mutQvORtueNyu45R6Cr-nblpIkORmblABKJpxEajfW4WjI2zScMq2Uo3REhCw4-AhScRLKF7mIc4JiwtD2HkzhTY0rVlAvg2RJ4wafOlCaKXaK8czcmIgaqjKY_IRQoKs1qqlMNp2H0_Fn8utKl7bMXK4Akf1NNhLBPnvjUKQaz_PNOJ8xboXotVEJNqfouH8pWg6S8v_T3veD7dLXXRTT1s5u9l2-6sovjH7qSOQCj4vQ1T5pILkUtmAKLVQ4oMTEsa8ncDjFga6gPGSVAHduFzFZTg5kjELnCDbti6DsFBVa1cOa6cAJLb2cVbxdko1xh4e3OEkJpLk0F7uM_d03XiCVW2qOrHEfaAobPg_x2jpypZZUrNLOGMFajarEyNbPsTzM6wrv2uP-1KFN2idADF0JcMhFyHGW8YI2DMzmvlggc1u8kCL7oa7grpy2Htbh-APNUcKTspfJXLl3uhc91mXU6ElhTiCJik-EIaiGqL
자세히보기
다다랜드 말하는 선인장 작동인형, 3... 7,400원
다다랜드 말하는 선인장 작동인형, 31cm, 기본선인장, 1개
https://ads-partners.coupang.com/image1/kNJpr3P43k0hCrLTkMprwVx-hgxvA1_7rwcAohMYZ9cBsfXQd5pCUpzzj7llj4GvucbVhU4fK1hJkXF5fzDWnjz07JQise9ru2iYQHi0GRB290oyVa29pUp2Hp7ajspTz0T7NdvrrTevN3CHcA0kxFF62zqyiflnXKJw7W-pXXzBaWj4cXv-OzoNgxHVh1NUbvdKcB9ZAifXB7G1Es9w8MrBwJdCV-kEXw9CZaZQpA-bdJJava-xpGtwy250Fmtq0bRXBZPvjfrwXm3_Nh_rSIo5lCny6tyhEx6qXJDJjFi_fmcxu2hiICN9cBTOJg_r_doAuDQ3QD6tnJCjIc0kMwoeVgfb7Ddx1wcyG4Fyg2uCVEbdh8ldfpqKl9KGhTszOKFgE5kRKJ3Aa7Qtm6lLilyMthKqfiF6o_wMQ1TawY5RgsMQ61xVJZSv_KW5XP-RLM55aotua-8VMd1i_aASPPCBHRRLGAQJIvkzV0coAL3XTh7r4tYwM2wtd8x12Ug9gTtm6_nTP2gb-NjinY1onuVkG_mYdVzOGJ1yxmWCspXR
자세히보기
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
작성 2026.11.19 12:08 수정 2026.11.19 13:22
680

RSS피드 기사제공처 : 디지털에듀타임즈 / 등록기자: 강훈 기자 무단 전재 및 재배포금지

해당기사의 문의는 기사제공처에게 문의

댓글 0개 (/ 페이지)
댓글등록- 개인정보를 유출하는 글의 게시를 삼가주세요.
등록된 댓글이 없습니다.
Shorts NEWS 더보기
강남3구 줄줄이 하락! 그런데 성북·중랑·금천은 올랐다?
“가슴 펴고 앉으세요” 이 말만 믿었다면? 허리 통증의 반전
[이형주교수의 이야기/오디오에세이]RESTART | 제65회 “정직하게 ..
건강하려고 단백질 줄였는데… 사망 위험 117% 증가?
수험생 응원가-청춘만만세
서울 전셋값 5억 돌파! 무주택자 벼락거지 피하는 정부의 파격 대책?
치매 위험, 뇌가 아니라 팔·다리 근육에 단서가? 189만 명 연구 결과..
비싼 화장품보다 중요한 건? 뷰티업계가 주목한 이것
해남에 12,000평 규모?! 역대급 아열대 체험 농장
당뇨병 있다면 꼭 보세요! 알츠하이머 위험 1.53배의 진실
노인일자리 참여자 79% 의료비 절감 체감
푸르게푸르게 푸른문학
푸른문학사 - 이은별 대표
진원 고성일 시인 데뷔 축하 송
독도, 그날의 푸른 감동
푸른문학사 - 이은별 대표 작시
난방비 걱정된다면 지금 확인하세요! 겨울철 복지 혜택 총정리
국화꽃으로 뒤덮인 서산의 가을
AI가 감염병 치료제까지 찾는다? 정부 3개 부처가 모인 이유
(주)원WK엔터테인먼트
상림공원 꽃무릇 - 안청자 시인
상림공원 꽃무릇
11일 오후 2시 통합시 무안청사에서 백승주 균형발전부시장이 "27년도,..
어머님 아버님 사랑합니다-카톡을 넘기며
어머님 아버님 사랑합니다-카톡을 넘기며
커피의 향기
스킵(Skip)
엽서(Postcard)
유튜브 NEWS 더보기

영암에 이런 농장이? 멜론농장 체험부터 디저트까지! 야미야미팜

[한기범농구교실/고양점]한기범농구교실 12월훈련 "탄성 로프를 활용한 지역방법 수비훈련" #드리블기능테스트 ...

[방생특집] 방생은 물고기만? 두 갈래 방생의 의미 | 방생 뜻·하는 법 | 서원암

"국내산이라더니 중국산" 온 가족 밥상에 오른 중국산 식품 TOP7

#차기자의칭찬합시다 #지은숙가수

2026.11.03 용인블루인택시협동조합 신사옥 이전 기념행사 #협동조합택시 #협동조합 #용인블루인 #쿱모빌...

"고양시는 환경단체의 가짜 선동에 춤추는 꼭두각시인가?"스프링힐스 18홀 증설 논란 15년, 산황동 리포트

(MBN 방송출현)초고령 사회의 희망을 짓다 – 박은정 대표의 ‘성공의 한 수’

미쳤나봐 (Crazy in Love) | 설레는 첫사랑 감성 K-POP

목포쫀드기 쫀박스 과거 옛추억을 찾아서

해남 땅끝에서 만나는 아열대 바나나 숲과 농부의 꿈

푸른문학사 -이은별 대표 작시

이탁규회장

(주)원WK엔터테인먼트

과학기술인 소통의 밤

학여울역 세텍 건축박람회에 청우산업(주) 이동식황토방이 참가합니다!

제15회 글로벌 자랑스러운 세계인 대상 개최…국제미디어그룹 창립 19주년 기념, 13개 분야 공로자 선정

모두의 아이디어 #5 이것이 대한민국입니다.

2026여수 해양창업 진로페스타 전남대학교 여수캠퍼스 산학연구관 및 도서관 일원 11월 10일 유튜브라이브

상리종합사회복지관 사회보장특구사업 결과보고 영상

  • 다이어리
  • 전자책/종이책