На этой неделе руководители самых мощных в мире компаний в сфере ИИ должны собраться в Шотландии на саммите, который проведёт король Великобритании Карл III. Они обсудят ответственное развитие ИИ на фоне опасений отрасли, что технология может опередить возможности человека по её контролю.
Мероприятие пройдёт на этой неделе в Dumfries House под руководством Ditchley Foundation, сообщает The Sunday Times. На обсуждение того, как ИИ может развиваться «на благо человечества», приглашены руководители, в частности, Nvidia, OpenAI, Anthropic, IonQ и Google DeepMind.
Саммит состоится через неделю после того, как генеральный директор Anthropic Дарио Амодеи, генеральный директор OpenAI Сэм Альтман и генеральный директор SpaceXAI Илон Маск призвали к большей сдержанности в развитии передовых систем ИИ.
В открытом письме в пятницу Амодеи предупредил, что с лета технология «развивалась гораздо быстрее» благодаря способности ИИ совершенствовать себя — процессу, известному как рекурсивное самоулучшение.
Он заявил, что «рой» ИИ-агентов, подобных тем, которые атаковали Hugging Face в июле, может быть способен «захватить весь интернет» в течение следующих шести—12 месяцев. Альтман согласился, что компаниям «нужно регулировать темп развития передовых систем».
Источники, близкие к Карлу, сообщили The Sunday Times, что он проявил интерес к развитию ИИ и связанным с ним потенциальным рискам.