Почти треть сотрудников российских компаний за последние полгода отправляли нейросетям логины, пароли и ключи от рабочих папок. Такие данные приводят исследователи центра «Кибердом».
МВД тем временем напоминает о том, что ChatGPT запоминает, о чем с ним говорят, и постепенно собирает на человека цифровое досье.
Спонсорский материал
Спонсорский материал
Хотите еще эксклюзивных новостей и аналитики？ Подписывайтесь на наштелеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!
Что сотрудники отправляют нейросетям
«Кибердом» анонимно опросил 1,3 тыс. сотрудников российских компаний, которые пользуются нейросетями в работе, и почти 500 руководителей и специалистов из сферы безопасности, IT, HR и права.
Пароли и доступы оказались самым частым, но не единственным, что уходит в нейросети. За полгода туда загружали:
- коммерческие предложения — 25% опрошенных;
- финансовые расчеты и отчеты — 22%;
- рабочую переписку — 21%;
- договоры — 16%;
- клиентские базы, в том числе с персональными данными, — 12%.
Никто не делал этого со зла. Почти 20% просто хотели быстрее закрыть долгую задачу. Остальные просили нейросеть разобраться в большом объеме информации, написать или поправить документ.
Каждый пятый не знал, какие рабочие данные вообще можно отдавать нейросетям. Некоторые и не думали, что загружают что-то секретное.
В «Кибердоме» считают, что нейросети уже стали частью обычной работы, а вот понятных правил, что можно отправлять, а что нет, у сотрудников нет. Компаниям, по мнению аналитиков, стоит эти правила прописать и сделать так, чтобы работать по ним было удобно.
Спонсорский материал
Спонсорский материал
Пока компании думают над правилами, стоит помнить, что отправленный нейросети документ не исчезает после закрытия чата. Нейросеть может его запомнить. Об этом как раз предупредило МВД.
МВД предупредило о досье в ChatGPT
Управление МВД по борьбе с киберпреступностью (УБК) рассказало, как ChatGPT обращается с тем, что ему доверяют. Люди пишут боту о личном, загружают рабочие документы, спрашивают про деньги и здоровье. Часть этого он сохраняет в своей памяти, чтобы помнить собеседника в следующих разговорах.
В ведомстве сослались на исследование The Algorithmic Self-Portrait. Его авторы выяснили, что OpenAI сохраняла личные данные пользователей и собирала из них цифровые портреты. Примерно 95% таких записей появились без разрешения человека. У 91% аккаунтов в памяти лежали сведения, которые относятся к персональным данным.
Полиция видит здесь две угрозы.
- Первая: по накопленным данным человека можно вычислить, даже если он пишет под псевдонимом.
- Вторая: памятью нейросети можно управлять со стороны. Достаточно спрятать ложные инструкции в документ, который пользователь сам отправит боту на обработку.
Чтобы не попасться, в МВД советуют:
- проверять настройки памяти и персонализации в ИИ-сервисах;
- не загружать в чат рабочие документы и другую закрытую информацию;
- убирать из запросов реальные имена, адреса и другие детали, по которым можно опознать человека;
- личные вопросы обсуждать во временных чатах;
- время от времени смотреть, что нейросеть о вас запомнила.
Расчеты, договоры и базы клиентов, отправленные в публичную нейросеть, уже нельзя считать внутренними документами. Что с ними будет дальше, зависит от настроек сервиса, в которые мало кто заглядывает.