도널드 트럼프 대통령, 마이크 존슨 하원의장, 그리고 기술 업계 최고경영자(CEO)가 9월 29일 인공지능(AI)에 대해 만날 예정이라고 최근 보도되었습니다.
이 회의는 AI 안전성 논의가 확산되는 시점에 이루어집니다. 주요 AI 기업들은 기술의 위험성을 경고하고 있고, 일부 업계 지도자들은 기술 발전을 늦추자는 주장에 의문을 제기하고 있습니다.
후원
후원
앤스로픽의 주장, 사이버보안 회의론자와 맞서다
이번 달 초, 앤스로픽 연구원 제이콥 콕슨이 사임을 발표하며 앤스로픽과 오픈AI가 책임감 있게 행동하지 않고 있다고 주장했습니다. 그의 동료 에번 허빙거는 AI가 10년 안에 전 인류를 멸종시킬 확률이 10%를 넘는다고 밝혔습니다.
며칠 뒤 앤스로픽 CEO 다리오 아무데이가 업계에 AI 기술 발전 속도를 늦추자고 촉구하는 에세이를 발표했습니다. 오픈AI의 샘 올트먼과 스페이스X의 일론 머스크가 여기에 동의했습니다.
그러나 파로 알토 네트웍스 CEO 니케시 아로라는 이 동기의 진정성에 의문을 제기했습니다. X에서 그는 속도를 늦추자는 움직임이 은밀한 상업 전략이라고 밝혔습니다. 이후 CNBC와의 인터뷰에서는 연구소들이 규제 당국의 동정과 책임 회피를 원한다고 말했습니다.
아로라는 속도를 조정하자는 방안은 비현실적이라고 밝히며, 일부 개발자들은 여전히 최첨단 영역을 계속 개발할 것이라고 했습니다.
“저는 어떤 이들은 성급하게 앞서 나가고, 여전히 일부가 최첨단에서 개발을 계속할 것이라고 생각합니다. 그러므로 우리는 첨단 개발을 막으려 해서는 안 되며, 그들은 가장 책임감 있는 집단입니다.” – 니케시 아로라, 파로 알토 네트웍스 CEO
아로라는 또한 10% 멸종 확률에 대해서는 실현 가능성이 매우 낮다고 일축했습니다.
실시간 최신 뉴스를 확인하려면 X를 팔로우해주십시오
후원
후원
AI 연구소들은 실제로 속도를 늦추고 있습니까？
아무데이의 에세이에 따르면 속도 조정이 훈련 중단을 의미하지 않으며, 이에 동의한 연구소들도 계속해서 새로운 모델을 공개하고 있습니다.
앤스로픽은 9월 22일 클로드 오푸스 5.5를 출시했습니다. 회사는 이것이 속도 완화 방침 이후 처음 출시한 모델이라고 밝혔습니다. 외부 평가기관인 METR 등도 출시 전 모델을 테스트했습니다.
오픈AI는 같은 날 GPT-6 솔과 루나를 출시했습니다. 이 모델들은 9월 4일 출시된 대표 모델 GPT-6 아스트라의 후속입니다.
구글도 계속 모델을 공급하고 있습니다. 9월 15일 제미니 3.8 라이브와 제미니 3.8 라이브 익스텐디드 싱킹을 발표했습니다. 별도로, 딥마인드의 코라이 카부크쿠오글루는 제미니 4가 훈련 이후 단계에 들어섰다고 밝혔습니다.
이들 모델이 이용자에게 도달하는 상황에서, 트럼프 행정부는 해당 기술 안전에 대한 책임 소재에 대해 논의하고 있습니다. 월요일, 재무장관 스콧 베센트는 AI 개발자들이 연방의 안전책임 면책을 바라기보다는 스스로 책임을 져야한다고 밝혔습니다.
이러한 입장은 아로라가 추측했던 연구소들의 책임 회피 가능성을 좁혔습니다. 9월 29일 회의의 참석자 명단이나 상세 의제는 아직 공개되지 않았습니다. 논의가 규제, 업계 안전장치, 미국의 경쟁력 또는 이들 주제의 결합에 중점을 둘지는 미정입니다.