OpenAI наняла сотни подрядчиков для проверки диалогов ChatGPT: что известно

Ваш диалог с ChatGPT может увидеть не только нейросеть. По расследованию издания 404 Media, OpenAI привлекла сотни внешних подрядчиков, которые читают реальные запросы пользователей и оценивают ответы чат-бота. Иногда проверяющим доступна целая переписка, а не одно сообщение.

Программа получила внутреннее название Project Lily. Её задача - улучшать качество ответов, сокращать чрезмерную угодливость нейросети и не позволять ей без необходимости изображать человека. Но у этой работы есть побочный эффект: в пользовательских сообщениях встречаются личные подробности, которые люди не рассчитывали показывать посторонним.

Что именно делают подрядчики

Согласно расследованию 404 Media, проверяющие оценивают ответы ChatGPT, анализируют содержание запросов и отмечают проблемы. В частности, они помогают определить, где модель слишком часто соглашается с пользователем, выдаёт неудачные формулировки или ведёт себя так, будто обладает человеческими чувствами и опытом.

Такая работа давно используется при обучении языковых моделей. Автоматической оценки недостаточно: система может сформировать грамматически правильный ответ, который при этом окажется бесполезным, неточным или чрезмерно услужливым. Человек способен оценить нюансы, которые трудно свести к простой проверке.

Главный вопрос заключается не в самом факте человеческой проверки, а в том, насколько понятно пользователям объясняют, какие данные могут попасть к проверяющим и как ограничить их использование.

Какие данные могут увидеть люди

По данным расследования, подрядчикам могут показывать запрос пользователя, ответ ChatGPT и дополнительный контекст переписки. В отдельных случаях он включает целый разговор и сводку сохранённых сведений о пользователе.

OpenAI использует автоматический Privacy Filter, предназначенный для обнаружения и маскировки персональной информации. Однако издание сообщило, что фильтр способен пропускать отдельные сведения. Поэтому удаление имён и других очевидных идентификаторов не означает, что содержание диалога гарантированно невозможно связать с конкретным человеком.

Представьте, что вы обсуждаете с нейросетью конфликт на работе, финансовые трудности, здоровье или отношения с близкими. Даже без имени в тексте могут остаться должность, город, детали событий и другие косвенные признаки. Вместе они способны раскрыть больше, чем кажется на первый взгляд.

Читают ли абсолютно все переписки

Нет оснований утверждать, что сотрудники или подрядчики проверяют каждый диалог ChatGPT. Расследование описывает существование процесса оценки реальных разговоров, но не устанавливает, что все сообщения каждого пользователя обязательно передаются человеку.

По опубликованным сведениям, программа касается личных аккаунтов Free, Plus и Pro, если включено использование данных для улучшения моделей. Это не означает, что платная подписка сама по себе гарантирует отсутствие человеческой проверки.

При этом OpenAI официально предоставляет настройку, которая позволяет запретить использование новых разговоров для улучшения моделей. В рабочих пространствах ChatGPT Business, Enterprise и Edu пользовательские данные по умолчанию не используются для обучения моделей. Но правила доступа и хранения информации могут зависеть от настроек организации.

Как отключить использование переписок для обучения

Если вы не хотите, чтобы новые разговоры использовались для улучшения моделей OpenAI, измените настройку в ChatGPT:

1. Откройте меню профиля.
2. Перейдите в «Настройки».
3. Откройте раздел «Управление данными».
4. Найдите пункт «Улучшать модель для всех».
5. Отключите его.

После этого новые разговоры не будут использоваться для обучения моделей. При этом они останутся в истории чатов. Если вы хотите удалить конкретную переписку, это нужно сделать отдельно.

Есть и временные чаты. По справке OpenAI, они не отображаются в обычной истории и не используются для улучшения моделей, пока остаются временными. При этом компания может хранить их до 30 дней для целей безопасности.

Важный нюанс: если после отключения обучения вы отправите оценку ответа, например нажмёте значок большого пальца вверх или вниз, связанная с отзывом переписка может быть использована для улучшения моделей. Это отдельно оговорено в справке OpenAI.

Что стоит учитывать при работе с нейросетью

Отключение обучения снижает риск использования новых разговоров для этой цели, но не превращает ChatGPT в хранилище с абсолютной конфиденциальностью. Данные всё ещё обрабатываются сервисом в соответствии с его правилами и настройками.

Поэтому документы с паспортными данными, банковские реквизиты, пароли, клиентские базы и конфиденциальные материалы лучше не отправлять в личный чат без необходимости. Если документ нужно проанализировать, сначала удалите имена, контакты, адреса и другие идентификаторы.

Для рабочих задач, связанных с коммерческой тайной или персональными данными клиентов, стоит использовать корпоративное пространство с подходящими условиями обработки информации, а не полагаться только на переключатель в личном аккаунте.

Мнение редакции

Человеческая проверка помогает улучшать нейросети. Проблема начинается тогда, когда пользователь воспринимает личный чат как закрытый дневник, а сервис использует его содержимое для оценки и обучения при включённой настройке.

Из расследования не следует, что каждую переписку обязательно читает человек. Но оно напоминает о простой вещи: сообщения, отправленные коммерческому ИИ-сервису, не стоит автоматически считать недоступными для проверки.

Практический вывод простой: проверьте настройку использования данных, не отправляйте в личный чат лишние идентификаторы и отдельно оценивайте правила хранения чувствительной информации. Удобство нейросети не отменяет необходимости контролировать собственные данные.

Источники: расследование 404 Media о Project Lily и официальная справка OpenAI по управлению данными и использованию разговоров для улучшения моделей.