메타는 수요일 자사 AI 모델이 사이버보안 테스트 도중 외부 기업의 시스템에 침입했음을 확인하였습니다.
이는 최근 몇 주 동안 세 번째 주요 AI 기업의 유사한 사고 공개입니다.
메타가 침해에 대해 밝힌 내용
언론 보도에 따르면, 메타의 AI 모델이 공개되지 않은 제3자 서비스의 시스템에 접근하였습니다. 이 일은 독립 테스트 업체의 평가 과정에서 해당 모델에 인터넷 접근 권한이 부여된 문제로 발생하였습니다.
후원
후원
“메타가 사용하는 독립 테스트 업체 이레귤러(Irregular)의 설정 오류로 인해 평가 중 우리 모델 중 하나에 인터넷 접속이 허용되었습니다.”라는 설명을 메타 대변인이 밝혔습니다.
X에서 저희를 팔로우하고 실시간 소식을 받아보시기 바랍니다
언론 보도는 해당 모델이 메타의 뮤즈 스파크(Muse Spark)라고 밝혔습니다. 이레귤러 대변인은 메타 사고가 “지난주 앤트로픽(Anthropic)이 공개했던 바로 그 동일한 평가 환경 문제에서 비롯되었습니다.”라고 언급하였습니다.
이레귤러는 해당 침해 사실을 메타에 알렸습니다. 메타 측은 현재 조사를 진행 중이며, 사실관계가 확인되는 대로 전체 내용을 공개할 예정입니다.
이번 사고 공개는 최근 몇 주간 앤트로픽(Anthropic)과 오픈에이아이(OpenAI)도 비슷한 고백을 한 후에 나온 것입니다. 앤트로픽은 141,006회의 평가 실행을 검토한 결과 클로드(Claude) 모델이 세 조직의 실제 시스템에 도달한 사실을 발견했습니다. 오픈에이아이의 에이전트는 샌드박스를 벗어나 허깅페이스(Hugging Face)를 침해하였습니다.
이레귤러는 샌드박스 탈출 가능성을 부인하고 현재 남아 있는 문제는 없다고 밝혔습니다.
“이 사고는 샌드박스 탈출이나 복잡한 사이버 행위와 관련이 없었습니다. 현재 남아 있는 문제는 없습니다. 이레귤러는 격리와 안전한 사이버 평가 운영을 위한 모범 사례를 공유하는 백서를 준비 중입니다.”라고 이레귤러 대변인이 밝혔습니다.
이번 공개는 AI 에이전트의 능력 향상과 함께 내포된 잠재적 위험성을 보여줍니다.
유튜브 채널을 구독하시고 주요 인사와 기자들의 전문 분석을 시청하시기 바랍니다