Компания Anthropic, занимающаяся искусственным интеллектом (ИИ), предупредила, что автономные самореплицирующиеся системы ИИ могут начать распространяться между пользовательскими устройствами без вмешательства человека — подобно компьютерным вирусам.
По данным опубликованного в понедельник доклада исследователей Anthropic Frontier Red Team Уильяма Чжоу и Дэниела Фримена, вредоносные «ИИ-черви» могут начать автономно атаковать повседневные устройства, включая телевизоры на Android, умную бытовую технику, камеры и другие подключённые к интернету устройства с базовыми вычислительными возможностями и слабой защитой.
По словам авторов, небольшим моделям ИИ может потребоваться «несколько месяцев, чтобы стать достаточно функциональными для саморепликации на коммерческих устройствах интернета вещей (IoT)». Это создаст сложную угрозу, поскольку у неё «не будет централизованной точки отключения».
Предупреждение прозвучало на фоне новых опасений по поводу растущих математических возможностей моделей ИИ, которые в конечном счёте могут взломать криптографические подписи, используемые в криптокошельках, поставив под угрозу около трети предложения биткоина.
Почти треть мирового предложения биткоина, или 6,26 млн BTC, сейчас находится на адресах, уязвимых для взлома моделями ИИ или квантовыми компьютерами. Однако 4,33 млн BTC подвержены риску из-за повторного использования адресов, а значит, перевод этих BTC в новые кошельки устранит уязвимость, написал сооснователь Glassnode Рафаэль Шультце-Крафт в опубликованном в четверг посте в X.
Днём ранее исследователь Ethereum Джастин Дрейк предупредил, что стремительное развитие ИИ может вывести из строя алгоритм цифровой подписи на эллиптических кривых (ECDSA), защищающий криптовалютные кошельки, раньше, чем ожидалось, и призвал пользователей перейти на новые кошельки.
Управляющий партнёр Dragonfly Хасиб Куреши назвал это предупреждение «криптографическим алармизмом» и заявил, что перевод токенов на новые адреса не является реальным решением этой угрозы.