Фрилансеры, нанятые OpenAI, читают переписки пользователей с ChatGPT — СМИ

Компания OpenAI наняла фрилансеров, которые читают переписки пользователей с ChatGPT с целью улучшения моделей нейросети, об этом пишет издание 404Media.

Согласно документам, с которыми ознакомились журналисты издания, компания нанимает сотни человек, которые анализируют диалоги нейросети и пользователей.

Цель таких групп оперативного анализа — улучшить ответы, которые ChatGPT предоставляет своим пользователям, при этом подрядчики оценивают и критикуют сгенерированные чат-ботом ответы.

Внутренние документы, к которым получило доступ 404 Media, показывают, что подрядчики обучают ChatGPT не антропоморфизировать себя и быть менее угодливым.

Нанятые подрядчики не видят имена пользователей, переписки которых читают. Кроме того, в OpenAI заявляют, что старается удалять личную информацию до того, как запросы попадут к проверяющим, но компания признает, что конфиденциальные данные все же могут оставаться в чатах.

Компания Anthropic, разрабатывающая нейросеть Claude, также подтвердила 404Media, что использует реальные переписки пользователей для улучшения своих моделей. Однако там отметили, что это касается только пользователей, которые в настройках своего аккаунта указали, что готовы помогать улучшать нейросеть (такие настройки есть и в аккаунте ChatGPT). Кроме того, идентификаторы аккаунта, в том числе email, к третьему лицу не попадают.

По данным журналистов, программа работы с рецензентами во внутренних документах OpenAI получила название «Проект Лилия».