Нейросети – новая головная боль

На этой неделе на эту тему было множество высказываний. В частности, свои соображения представил Захар Рубцов – интернет-технолог, директор агентства «Gosapp Digital».

Поводом для рассуждений стало недавнее увольнение сотрудницы одной из московских компаний за разглашение коммерческой тайны: она загружала конфиденциальные рабочие документы в китайскую нейросеть DeepSeek. Также она отправляла их себе на личную почту. «Слив» заметили, девушку «попросили выйти вон», начались судебные разбирательства. В итоге суд  решил, что производственной необходимости передавать данные через внешние сервисы не было, и признал  увольнение законным.

«А вот теперь скажите, вы сами когда-нибудь загружали рабочие документы в нейросети? Например, чтобы они помогли в сортировке, дополнили данными, переделали формат и прочее. С точки зрения информационной безопасности загрузка документа в публичную нейросеть – примерно то же самое, что отправить его неизвестному внешнему подрядчику». 

Как отметил Рубцов, сама китайская нейросеть открыто указывает, что загруженная информация может быть использована для развития технологий компании, а данные пользователей - и вовсе храниться на серверах в Китае.

Он привёл примеры и других схожих инцидентов. Один из них касается случая, когда юристы Amazon потребовали от сотрудников не отправлять в ChatGPT внутренние материалы, поскольку «ответы нейросети начали подозрительно напоминать закрытую информацию компании». По его словам, в зарубежных компаниях уже начали вводить тотальные ограничения и проводить внутренние расследования, связанные с загрузкой в нейросети внутренних документов. 

По мнению Рубцова, инструктажами и формальными запретами здесь дело не ограничится, а в крупных компаниях начнут отслеживать, какие данные копируют сотрудники и что именно они «отправляют ИИ». Такие технические возможности уже существуют. По сути, круг замыкается: нейросеть будет следить за тем, что именно в неё же и загружают.

• Ранее в «Gosapp Digital» сообщали о том, что чат-боты всё чаще стали использовать в качестве персональных политконсультантов – «за кого голосовать?»

При этом результаты исследования показали, что ChatGPT или Gemini на один и тот же вопрос могли давать совершенно разные ответы, по-разному оценивать взгляды пользователя, путать участников выборов и при этом говорить с полной уверенностью.