유럽연합(EU)의 AI 사용 규정은 통제 불능 에이전트에 대처하기에 충분하다고 EU 기술 수장 헤나 비르쿠넨이 말했다.
OpenAI와 Anthropic에서 발생한 사건 이후 전 세계적으로 우려가 커졌으며, 통제 불능 AI 에이전트가 인간의 통제를 벗어날 수 있다는 우려가 제기됐다.
비르쿠넨은 금요일 로이터와의 인터뷰에서 “매우 뛰어난 모델의 안전과 보안이 국제적으로 매우 뜨거운 주제라는 점을 알고 있으며, 유럽은 이에 잘 대비돼 있다”고 말했다.
위험 수준에 따라 규제하는 EU의 AI법은 세계에서 가장 엄격한 AI 규정 중 하나다. 이 법은 2년 전에 채택됐다.
비르쿠넨은 EU의 AI 규정이 시대에 뒤떨어졌다고 주장하는 비판론자들의 주장을 일축했다.
그녀는 “AI법을 마련했으며, AI법은 이러한 모델의 전체 수명 주기를 포괄한다”고 말하며, 규제 당국이 60명의 AI 전문가가 제시한 권고를 반영해 기업들이 모델을 평가하는 방법에 관한 지침을 제공하고 있다고 덧붙였다.
유럽연합 집행위원회는 8월 말 30곳이 넘는 신원 미상의 AI 기업에 정보를 요청하며, 안전 및 보안 조치에 관한 세부 사항을 요구했다.
비르쿠넨은 현재 해당 답변을 검토하고 있다고 말했다.
Cointelegraph는 9월 13일 Anthropic의 최고경영자(CEO) 다리오 아모데이가 보도했다 에서 AI 개발 속도가 지나치게 빠르며, 이를 방치하면 “이러한 시스템을 이해하고 통제하는 우리의 능력을 앞지를 수 있다”고 말했다고 블로그 게시물.
그는 AI의 가파른 발전이 차세대 AI를 구축하는 AI 자체의 능력이 점점 향상되면서 추진되고 있으며, 이를 재귀적 자기 개선이라고 설명했다.