Líderes das empresas de IA mais poderosas do mundo devem se reunir na Escócia nesta semana, em uma cúpula organizada pelo rei Charles III, do Reino Unido, para discutir o desenvolvimento responsável da IA, em meio a temores no setor de que a tecnologia possa superar o controle humano.
O evento será realizado nesta semana na Dumfries House e supervisionado pela Ditchley Foundation, de acordo com o The Sunday Times. Líderes de empresas como Nvidia, OpenAI, Anthropic, IonQ e Google DeepMind foram convidados para discutir como a IA poderia ser desenvolvida “para o bem da humanidade”.
A cúpula ocorreria uma semana depois de Dario Amodei, CEO da Anthropic, Sam Altman, CEO da OpenAI, e Elon Musk, CEO da SpaceXAI, pedirem maior contenção no desenvolvimento de IA de fronteira.
Em uma carta aberta na sexta-feira, Amodei alertou que a tecnologia vinha “avançando drasticamente mais rápido” desde o verão, impulsionada pela capacidade da IA de se aprimorar, um processo conhecido como autoaperfeiçoamento recursivo.
Ele disse que um “enxame” de agentes de IA, como os que atacaram o Hugging Face em julho, poderia ser capaz de “assumir o controle de toda a internet” nos próximos seis a 12 meses. Altman concordou que as empresas “precisam ditar o ritmo da fronteira”.
Fontes próximas de Charles disseram que ele havia se interessado pelo desenvolvimento da IA e por seus riscos potenciais, informou o The Sunday Times.