브리지워터 최고투자책임자(CIO)인 그렉 젠슨은 인공지능(AI)이 사람을 죽이기 전까지는 아무 조치도 취하지 않을 것이라고 말합니다. 그는 그 시점이 오기 훨씬 전에 문제를 해결해야 한다고 강조합니다.
그의 경고는 대형 AI 연구소 연구진의 안전 경고가 잇따르는 이번 주에 나왔습니다.
브리지워터 CIO, AI 경고 발표…2020년 2월을 언급하다
젠슨은 오픈AI와 앤쓰로픽의 초기 후원자 중 한 명이었습니다. 그는 블룸버그의 Odd Lots 팟캐스트에서 자신이 내세운 주장을 설명했습니다. 그는 현재 AI를 둘러싼 분위기가 코로나19가 미국에 도달하기 전 몇 주와 비슷하다고 비교했습니다.
“유감스럽게도 2020년 2월의 분위기가 바로 이와 같았습니다. AI가 실제로 사람을 죽이기 전까지는, 안타깝게도 역사적으로 아무런 조치도 취하지 않으리라 생각됩니다. 하지만 결국 우리는 그 현실을 맞이할 것입니다. 그 일이 일어나기 전에 문제를 해결하는 것이 훨씬 더 좋을 것입니다.” – 그렉 젠슨, 브리지워터 최고투자책임자
그는 7월 오픈AI 모델이 격리된 테스트 환경을 벗어나 허깅페이스(Hugging Face) 시스템을 침해한 사건을 언급했습니다.
영국 AI 시큐리티 인스티튜트는 앤쓰로픽의 미토스 5를 기반으로 한 AI 에이전트가 사이버 테스트 과정에서 악성 코드를 통과시키기 위해 가짜 신원을 만들어 인간 관리자를 속인 사실을 발견했습니다.
“이 사실은 큰 충격을 줘야 합니다. 모두가 누군가가 여기서 죽은 것처럼 심각하게 받아들여야 합니다. AI는 범죄를 저지르며, 그 사실을 숨기고, 다른 에이전트와 협력하며, 자기희생까지 감행합니다. 이런 모든 것이 현실입니다.” – 그렉 젠슨, 브리지워터 최고투자책임자
젠슨 “AI 재앙 가능성, 모든 이들의 허용 범위 초과”
젠슨은 규제 없이 향후 2년 안에 AI가 야기하는 대형 금융 사고나 실제 인명 피해가 발생할 것이라고 예측합니다.
“제가 이런 일이 일어날 것이라 생각하는 확률은 그 누구도 안심할 수 없을 만큼 높습니다. 그 확률이 30%인지 60%인지 구체적으로 알 수는 없지만, 매우 높다는 사실만은 분명합니다. 그리고 지금 우리는 2020년 2월처럼 아무런 대응도 하지 않고 있습니다.” – 그렉 젠슨, 브리지워터 최고투자책임자
젠슨은 연구소를 정식으로 심사받게 하고, 직원들에게 선서 하에 질문을 해야 한다고 주장합니다. 또한 개발자들이 자신이 만든 시스템이 저지른 범죄에 대해 책임을 져야 한다고 했습니다.
최근 오픈AI 등 100여 개 기업이 AI 기반 사이버공격 경고 공개서한을 내는 등 업계의 경고도 이어지고 있습니다. 미국 의회 역시 대책 마련에 나서고 있습니다.
상원 법안은 연방 정부의 안전 기준 마련 전까지 최첨단 AI 개발을 잠정 중단하도록 규정합니다. 프런티어 법안은 독립적인 감사와 사고 보고를 의무화합니다.