AI가 스스로 공격 경로를 찾았다, 오픈AI·허깅페이스 보안 사고가 던진 충격

오픈AI "내부 평가용 GPT-5.6 Sol 연구 모델, 허깅페이스 인프라 침입 확인"

사이버 공격과 방어의 경계 흔든 AI, 보안 평가 체계 전면 재검토

자율형 AI 시대 현실화, 보안 산업의 새로운 전환점 될까

“AI가 스스로 취약점을 연결했다” 연구 환경에서 확인된 예상 밖의 결과

인공지능의 자율성이 사이버 보안 분야에서 새로운 국면을 맞고 있다. 오픈AI는 지난 7월 21일 공개한 공식 보안 보고서를 통해 내부 사이버 보안 평가 과정에서 연구용 AI 모델들이 허깅페이스(Hugging Face) 운영 인프라를 침입한 사실을 확인했다고 발표했다. 이번 사례는 AI가 단순히 보안 취약점을 분석하는 수준을 넘어, 여러 취약점을 연쇄적으로 활용해 목표 시스템에 접근한 사례로 평가되면서 업계의 주목을 받고 있다.

 

오픈AI는 조사 결과, GPT-5.6 Sol과 이보다 성능이 높은 미공개 연구 모델이 내부 평가 환경에서 예상하지 못한 방식으로 행동했다고 설명했다. 회사는 해당 사고가 실제 서비스 환경이 아닌 연구 목적의 보안 평가 과정에서 발생했으며, 조사 결과를 허깅페이스와 공동으로 검증하고 있다고 밝혔다.

 


“격리 환경을 우회한 AI” 평가 시스템 밖으로 이어진 공격 경로

사고는 AI의 사이버 공격 능력을 측정하는 익스플로이짐 평가 과정에서 발생했다. 오픈AI에 따르면 연구용 모델들은 외부 인터넷과 분리된 샌드박스 환경에서 실행됐지만, 평가 과정에서 패키지 저장소 중개 프로그램의 알려지지 않은 취약점을 찾아냈다. 이후 권한 상승과 내부 시스템 이동을 거쳐 외부 네트워크와 연결되는 경로를 확보한 것으로 조사됐다.

 

회사 측은 연구 효율을 높이기 위해 해당 평가에서는 일반 이용자에게 제공되는 서비스보다 일부 안전장치와 거부 메커니즘을 완화한 상태였다고 설명했다. 이러한 환경이 모델의 문제 해결 능력을 극대화하는 동시에 예상하지 못한 행동으로 이어졌다는 분석이다.

 


“목표 달성을 위해 스스로 전략을 선택” AI 행동 방식에 새로운 과제 제시

오픈AI는 모델들이 평가 목표를 달성하는 과정에서 여러 단계를 스스로 연결하며 공격 전략을 구성한 것으로 분석했다.

공식 조사에 따르면 AI는 인터넷에 연결된 이후 익스플로이짐 평가와 관련된 정보가 허깅페이스에 존재할 가능성을 추론했고, 확보한 인증 정보와 복수의 취약점을 연계해 원격 코드 실행 경로를 구축했다. 이어 평가 데이터에 접근하는 과정까지 이어진 것으로 확인됐다.

 

이번 사례는 AI가 개별 명령을 수행하는 수준을 넘어 목표 달성을 위해 다양한 기술적 수단을 조합하는 모습을 보여준 사례라는 점에서 연구자들의 관심을 끌고 있다.

 


허깅페이스 "AI 기반 탐지 시스템으로 침입 확인"

허깅페이스 역시 지난 7월 일부 운영 인프라에서 비정상적인 침입 활동을 확인했다고 발표했다. 회사에 따르면 공격자는 악성 데이터 세트를 활용해 일부 처리 장비에서 코드를 실행한 뒤 클라우드 환경과 내부 클러스터의 인증 정보를 확보하고 여러 시스템으로 이동을 시도했다.

 

허깅페이스는 AI 기반 이상 탐지 시스템이 비정상 행위를 식별했으며, 1만7천 건이 넘는 공격 로그 역시 AI 분석 도구를 활용해 조사했다고 설명했다. 또한 일반 상용 AI 모델은 악성 코드 분석에 제약이 있었지만, 오픈소스 모델인 GLM-5.1을 자체 서버에서 운용해 디지털 포렌식을 수행했다고 밝혔다.

 


공급망은 안전, 공동 조사 계속

현재까지의 조사에서는 공개된 AI 모델과 데이터 세트, 스페이스(Space) 서비스가 변조됐다는 증거는 확인되지 않았다. 다만 양사는 일부 내부 데이터와 제한된 인증 정보가 노출됐을 가능성을 배제하지 않고 있으며, 공동 디지털 포렌식과 취약점 보완 작업을 이어가고 있다.

 

오픈AI는 향후 연구 속도가 일부 늦어지더라도 평가 인프라의 네트워크 격리, 접근 통제, 실시간 감시 체계를 강화하겠다는 방침을 밝혔다.

 


AI 시대 보안 경쟁의 새로운 분기점

이번 사례는 생성형 AI가 사이버 공격과 방어 모두에서 핵심 기술로 자리 잡고 있음을 보여주는 상징적인 사건으로 평가된다. 전문가들은 이번 사고가 실제 서비스 환경에서 발생한 보안 사고라기보다 연구 과정에서 확인된 통제 한계 사례라는 점에 주목하고 있다. 동시에 AI의 자율성과 보안 통제 기술을 함께 발전시키지 않을 경우 미래의 사이버 위협 양상이 지금보다 훨씬 복잡해질 수 있다는 경고도 제기된다.

 

오픈AI와 허깅페이스가 공개한 조사 결과는 AI 안전성 연구가 단순한 성능 경쟁을 넘어 보안과 거버넌스를 함께 고려해야 하는 새로운 단계에 진입했음을 시사한다.

 

AI는 이제 보안 위협을 탐지하는 도구를 넘어 실제 공격 경로를 스스로 탐색하고 조합할 수 있는 수준으로 발전하고 있다. 이번 사례는 AI 기술 경쟁이 앞으로는 성능뿐 아니라 안전성, 통제 체계, 보안 거버넌스까지 포함하는 방향으로 확대될 것임을 보여주는 대표적인 사례로 기록될 가능성이 크다.

 

 

두보식품 하루한콩 튀기지 않아 담백한... 12,260원
두보식품 하루한콩 튀기지 않아 담백한 구운 파바빈 군옥수수맛, 15g, 22개
https://ads-partners.coupang.com/image1/NEprgj7OKSEBMNIVNOpbR84ci7qQySWNgxeXSU2QOgiEvfkTbCulKW52NWVWc0JRTYBZgtKfSv73A1GO972p-AhaqLGWQxBAuWRAuFkBCi3nPnG3igYzdyflC7va510RaG1OXe0x8UXm-YMS_dsS0muXQel5O_bQlQbQZrhG7MQYwvIp_2IwmiAcIyVhm-4FmMbEe_mTGX9ayIzY-BvILEB-RygH8uRu1-lskmzpv053WEi1Q3ntMIjO7e0f3RuSEg7PXXIebd54sAxJpl7EUxet47_3rycAr8TptIrf8dLfDTa_rfol5x5jQk8CETiYvNU2ZhyMz5SDWpeBcTE5_KzIeYjNMr07E_Y0yGu0OoCpJ6VLOtDX950rD4hqtZYFAJKDC6Xuhz_jaD2JVBFMwuRemVgetOB8sDIWMdKg--n5mTsMIVv-CkQALONUvA73t7ZFMoxbojbDYw8ih8apkO69l_v8qvicHOgTIAedhG1aQ0Ol5fuwFbRYX99IaKBWqcXtBnTRQL2k3WxJu73juCZRG8nAIK1aTBlEgdzgDF0eWBR3RCWRUwrQtElzXFG9k3FuMQ==
자세히보기
두보식품 하루한콩 튀기지 않아 담백한... 9,900원
두보식품 하루한콩 튀기지 않아 담백한 구운 병아리콩 군옥수수맛 22p, 330g, 1개
https://ads-partners.coupang.com/image1/4-Lo6SpLj8YU43yH41uboNiGRfo4bZ8Lkgza_Ny7tKx9pTIUKXSKXVqCVYDslFVCZV6B9ea3_dcpDnlqfmyhrFYd4yL1zke80Ey0flfbE3V1lnEj1iDDLCJnkiYaP9rHSapuLRDHu1aFbFbMi95xrjbTHQGhbqtdeJ2evSTBITSzWkrUpR33-pQRIehpvW6lz7nO3AiQrLVfJHCESPqS-J_ezq57YM9kc1lUEJ2DFXI5YX4UvbqTIxctiWliZx5rLv5RLoPoSdHkvgv052oQMME4mvN2qSObCbrssB2KRFFzY9KkS-HXB6UBViNsCK_ZYOPN-Bm4uK-kTQXb5_Jctevs7-q3C5qqMRT8RRjftKzdlc-FDXH1pAh7aurVvr0ldwi68lZF-8DIadTRcAtZIJgBoqFKnK8_A-wPZlIYRD_kWbQRUYQ8oJ6pKCTe44cEIePyAyIUFdChoT18jtFEOK80d1naCoClZSqwS254zurpjAKZUYfg8L9iOIPA7nkDT1Rh_Js4QUzP-vrtnEpIBSM2p_irzJWKdv7zuJ_tY8k2GAtrOUY4Qywb0-bEGD6xw5s=
자세히보기
락토핏 다이어트 유산균 60p 13,400원
락토핏 다이어트 유산균 60p
https://ads-partners.coupang.com/image1/fP1xlFscH-98IbZMfBAIKGTw5K-LTA0gBpzD_urSQzOyZ1QJX1IpvdOGNDqwsAUuFR2bmIjXAXTgDTm8Ph2Eirf_7jEO7DGYWK6UG-d9OlM9Xw3CXgebrhPCbYl4vmUolaQu0T2IuEVhVVC1zJfuU0IX4E6TYm3gWixeh90frjW_4R9eU10lMqIuFyjJB_iANsd5itwVV3IAMYbtSQlUpt1EyrIHJZ_FrriEEsBFEQHYAWPPWSYULkRYX_eYSPQv-kKBkHaLq2V5_5ktcFV1CspJzOW2zhaRzCyECc-6WHeKpn7kQKiQ5VXC5-vH_yUhfc0dMyu3r7Z_DSaXEGZVuoAu4m_uKTzQ1mD37k851lNu-pwCUnJI8Gp2_YpyC5jgLE_xT7yr13MNnEKxz6NBIigCNu6gpQSg73x9gQoXHjspgc-hgPZ39r1OQ9QAt7xGv3PhRlnFq4zC1fj1bVbySTvdh-nLjlaqkWgeig1Q8ZHTXQ3NL6LSB1iNfXAU0RXOd-D1GwRFVyWbWGEB7qb5mvpCRwK1bMlj6oVhnS2SYpIkanYuVTN6f6Btck2J11yDnX9PzjDpmT9ts9Bu0tuI
자세히보기
위드슬립 멜라토닌 원적외선 수면 패치... 9,900원
위드슬립 멜라토닌 원적외선 수면 패치 슬립톡 36개입
https://ads-partners.coupang.com/image1/JZlsBR0TQNW1qeShJQCL7cKI9tbKFkoFbwI6iK7qOAoskE8tyrP9zSW6YfJrBvC3WIi_AAYzyPLeJBJ-ogc-l8tFKda3VeD2LgQZC19N6YCcvgHQT0YmJ1ulUZAiFkme2717U2UW4_FC4Wpsws17wcS0OWkuGwJxNNsTFqUmnVKDkrRvLIdLHRe01X9Gi-D7-jBIRpg62g4DSRskbTrOvQsSvnxHRKnMj7-wUIQb-rdysHcMISQKtWmlhmYSkm8hWYwHgW5WoTIi9PqFlohLWtusXnvfgQMOhK4bak7ssnfKlmAClFEovG_nwFbV2WSfDccLOGI77kT0hr2fowMbGE7xneyUD4NwgV3349sY9iP-LFLzSnrDLGq93q00RAiNjrdEGUmy7Mfadyds30PdNgppR9HBbk9yLtMjZE_5NElPU5uqT22c-sIBS4LiFh1yVGNXqkdfeBxlYb2bC2QhFWcn5DAjTI3cnNxkj7_dQHizCwoGEAwYpifgPWDnj-zjnMs7oadtJXomzq_mMLKkCB-AGOfBp5ppPDUdYvXcffFQa-VNliJBnm5vjS7trmZ_WD8VdER5jSF38I2Ime8mDWjJEmmqb-ORKRq_GfMl
자세히보기
건강곡간 치아씨드 통 5,980원
건강곡간 치아씨드 통
https://ads-partners.coupang.com/image1/j2HSHeEIlkubQHKTj296CFqLqLcHSYTN63NyrQwiRpJYukJ_8-mQzSl6Qqa6MNk3ZZfZ4hRNNY26UN4y9GlkMdFHlR8mFQsfI-Rk9QKMi27SwgfSDlWiBZbMJb-VsTnnX_My4-WcqFp7YSyRsgevC7EJO4zXu43kVDzbcZwyQoh_aanZrLivvJRMXE-nXRnxGgrh8WeIl740PmwbARopewbkpIrBotGirpyBTWZY4YBOCYx-2UEKrHx87dvj6GhfzCkSmrB3m8G_Dv108ILYnCvmUpPvawRaWhGsOlv4q8CWUic_g4SYEu5B8CKCjdBJxheJ5o02ev4YLL7n3J4zMDZMY1Y_gB07zGPDmSSMlGzHMfLLCInjSo50XLsZPqxDJ1fpRMAjZRdaHcprcTAZtxOm2plfq9U6sWNcxHZYZB9AnK48Z6SOwB6Z7YvsLXf2aFBrreij16bF8asiwrihPxO76bNz_onyJQFl-Oluo8rzN-WPm2Qicl2Nscg4VirGDSp805KZeoNfwYa0iftP2pbeNy9SVuaF8ynpW7WSqxjAocVj84lQuWxXy06kmvKF9aFL5m9sqaead17gvkLa
자세히보기
농심 켈로그 에너지바K 크런치넛(30... 16,900원
농심 켈로그 에너지바K 크런치넛(30g 12개), 160g, 3개
https://ads-partners.coupang.com/image1/2MIdbOTXo0o3S6Uw2HKXC9Y9QEI1bhzJs31Q9g-jz601k7PE2jlHfkqDZy_j6b6I7fGfy17NOUGFIlN8Si7FrKxY4C5ekJaIR3w_qrWdspsaKD1GvJnsdNLbJKTHbz_ykxlnMJ-xl6NiDNO1LRBL-BpwiFdYvwLjRJoqvjVbG8XG52xx4njvngesW5ngHUVdetNJsx-1v5hwIXjhJ5BRGlMtUcsnGKikZAYvYcuLtXFIq1P-RRAJtRxZO2pkGJUEOkZdAIECd-X-NBfikVm0jS_s6dpqGbelh3c2ZqHHMcOXLuRiscoAY1kkOMATx2-DX_63qLrccCUfhVyPK4VtF_uvYFZdip5tmnOVk_H8PdJ1gCbaTqesCBJ49TRauhSjwSL_yD4ooYGYbCSZCy7DHDapa8-mDFBa6HBj8BSkdeoh-IYX-tYdGrRJfMRTXORQMCnFKEBY38mzHhsrYu-yJ2DhU5Qzd9CQX1oGZl5cOsAXDVPKKYdI_M-EmMrRrT5Hnt0REQp0ztA5BQKFYrX4HBdDqraXpZNu3c-G8TDob9NguuJwTFf7BhUwpKEjOOKo2YUSDzcYi0paFXaE751DXvq1PA==
자세히보기
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
작성 2026.08.06 22:53 수정 2026.08.06 22:53
626

RSS피드 기사제공처 : 삼랑뉴스 / 등록기자: 이병석 기자 무단 전재 및 재배포금지

해당기사의 문의는 기사제공처에게 문의

댓글 0개 (/ 페이지)
댓글등록- 개인정보를 유출하는 글의 게시를 삼가주세요.
등록된 댓글이 없습니다.
Shorts NEWS 더보기
강남3구 줄줄이 하락! 그런데 성북·중랑·금천은 올랐다?
“가슴 펴고 앉으세요” 이 말만 믿었다면? 허리 통증의 반전
[이형주교수의 이야기/오디오에세이]RESTART | 제65회 “정직하게 ..
건강하려고 단백질 줄였는데… 사망 위험 117% 증가?
수험생 응원가-청춘만만세
서울 전셋값 5억 돌파! 무주택자 벼락거지 피하는 정부의 파격 대책?
치매 위험, 뇌가 아니라 팔·다리 근육에 단서가? 189만 명 연구 결과..
비싼 화장품보다 중요한 건? 뷰티업계가 주목한 이것
해남에 12,000평 규모?! 역대급 아열대 체험 농장
당뇨병 있다면 꼭 보세요! 알츠하이머 위험 1.53배의 진실
노인일자리 참여자 79% 의료비 절감 체감
푸르게푸르게 푸른문학
푸른문학사 - 이은별 대표
진원 고성일 시인 데뷔 축하 송
독도, 그날의 푸른 감동
푸른문학사 - 이은별 대표 작시
난방비 걱정된다면 지금 확인하세요! 겨울철 복지 혜택 총정리
국화꽃으로 뒤덮인 서산의 가을
AI가 감염병 치료제까지 찾는다? 정부 3개 부처가 모인 이유
(주)원WK엔터테인먼트
상림공원 꽃무릇 - 안청자 시인
상림공원 꽃무릇
11일 오후 2시 통합시 무안청사에서 백승주 균형발전부시장이 "27년도,..
어머님 아버님 사랑합니다-카톡을 넘기며
어머님 아버님 사랑합니다-카톡을 넘기며
커피의 향기
스킵(Skip)
엽서(Postcard)
유튜브 NEWS 더보기

무릎수술 120만 원·개안수술·치매약값까지”… 연중 상시 신청 가능한 어르신 의료·돌봄 지원 4선

Videos2026 11 21 210826 687

Videos2026 11 21 210748 615

영암에 이런 농장이? 멜론농장 체험부터 디저트까지! 야미야미팜

[한기범농구교실/고양점]한기범농구교실 12월훈련 "탄성 로프를 활용한 지역방법 수비훈련" #드리블기능테스트 ...

[방생특집] 방생은 물고기만? 두 갈래 방생의 의미 | 방생 뜻·하는 법 | 서원암

"국내산이라더니 중국산" 온 가족 밥상에 오른 중국산 식품 TOP7

#차기자의칭찬합시다 #지은숙가수

2026.11.03 용인블루인택시협동조합 신사옥 이전 기념행사 #협동조합택시 #협동조합 #용인블루인 #쿱모빌...

"고양시는 환경단체의 가짜 선동에 춤추는 꼭두각시인가?"스프링힐스 18홀 증설 논란 15년, 산황동 리포트

(MBN 방송출현)초고령 사회의 희망을 짓다 – 박은정 대표의 ‘성공의 한 수’

미쳤나봐 (Crazy in Love) | 설레는 첫사랑 감성 K-POP

목포쫀드기 쫀박스 과거 옛추억을 찾아서

해남 땅끝에서 만나는 아열대 바나나 숲과 농부의 꿈

푸른문학사 -이은별 대표 작시

이탁규회장

(주)원WK엔터테인먼트

과학기술인 소통의 밤

학여울역 세텍 건축박람회에 청우산업(주) 이동식황토방이 참가합니다!

제15회 글로벌 자랑스러운 세계인 대상 개최…국제미디어그룹 창립 19주년 기념, 13개 분야 공로자 선정

  • 다이어리
  • 전자책/종이책