뉴욕대학교 수학자 한 명이 오픈에이아이(OpenAI)의 모델이 본인의 이름을 알게 된 지 하루 만에 자신이 공개하지 않은 연구 결과에 도달했다고 주장하면서, 이제는 자신의 독창적인 아이디어를 이 회사의 AI 도구에 입력하지 않는다고 밝혔습니다. 오픈에이아이는 그의 프롬프트가 자사 시스템에 영향을 줄 수 없었다고 해명했습니다.
트리스탄 버크마스터는 오픈에이아이가 722건의 AI 작성 수학 논문을 발표한 며칠 후 이 같은 경고를 내렸습니다. 그는 자신의 계정 중 하나가 여전히 기본 설정으로 모델 학습을 활성화한 상태였다고 밝혔습니다.
후원
후원
버크마스터가 말하는 미공개 연구 성과 유출 사건 경위
버크마스터와 오픈에이아이 경쟁사 앤트로픽(Anthropic) 소속 수학자 레벤트 알포게는 백만 달러 상금이 걸린 유체 흐름 난제인 나비에-스토크스 방정식 연구의 한 단계를 위해 거의 1년에 가까운 시간을 투자했습니다.
버크마스터는 유료 개인 계정에서 오픈에이아이의 코딩 어시스턴트인 코덱스를 통해 해당 연구를 실행했습니다. 이들의 초안은 오픈에이아이 서버에 저장돼 있었습니다.
그는 CNBC에 오픈에이아이가 자신의 이름을 밝히기 전에는 어떠한 진전도 없었다고 말했습니다. 이후에는 오픈에이아이의 에이전트가 ‘정확히 우리가 있었던 지점’에 하루 만에 도달했다고 밝혔습니다.
버크마스터는 9월에 “누구를 비난하는 것은 아니다”라고 말했다고 비인크립토(BeInCrypto)가 보도했습니다. 하지만 그는 지금 시점에 “시기가 의심스럽다”고 말합니다.
“그들이 제 이름을 알기 전에는 진전이 없었습니다. 이름을 알고 나서 갑자기 우리가 멈춘 지점에서 시작했습니다…저는 의심스럽다고 생각합니다.” – 버크마스터
오픈에이아이가 9월 8일 나비에-스토크스 증명을 발표하기 전, 버크마스터에 따르면 오픈에이아이는 알포게를 제외하면 단독 저자로 올려주겠다고 제안했습니다. 그는 이를 거절했습니다.
후원
후원
오픈에이아이는 해당 데이터와의 관련성을 일체 부인했습니다.
“우리는 지난 두 달 동안 버크마스터 박사의 코덱스 프롬프트가 시스템에 훈련을 포함한 어떤 방식으로도 영향을 미칠 수 없었다는 점을 단호하게 말할 수 있습니다.” – 오픈에이아이 대변인, ABC 보도
버크마스터는 해당 기간이 계속 바뀌었다고 밝혔습니다. 이후 회사 공식 입장문에서는 해당 기간이 7월 3일로 정해졌습니다.
버크마스터가 연구자들에게 아이디어를 AI에 입력하지 말라고 하는 이유
버크마스터는 여전히 코덱스를 사용하지만, 독창성을 유지하고 싶은 아이디어는 더 이상 입력하지 않습니다.
그는 연구비 심사위원들이 요약문을 작성하기 위해 연구 계획서를 AI 도구에 붙여넣으면서, 미공개 연구 계획이 AI 기업에 유출된다고 밝혔습니다.
오픈에이아이가 10월에 공개한 자료는 4,000건의 미해결 문제에서 비롯되었습니다. 버크마스터는 이로 인해 신진 수학자들의 연구 프로그램이 사라졌다고 전했습니다.
오픈에이아이 수석 연구원 세바스티엥 뷔벡은 “이 제안들은 버크마스터를 도우려는 의도였습니다.”라고 뉴욕타임스에 밝혔습니다.
대변인은 오픈에이아이가 또 다른 백만 달러 문제에 대해 “상당한 진전을 이뤘다”고 말했습니다.