Розмови з ChatGPT, які користувачі часто сприймають як приватний діалог із програмою, у певних випадках можуть потрапляти на перегляд до людей. За даними розслідування 404 Media, сотні зовнішніх підрядників працюють із реальними розмовами користувачів OpenAI, оцінюючи відповіді чатбота, шукаючи проблеми у його поведінці та допомагаючи покращувати майбутні версії моделей.
Йдеться не про те, що співробітники або підрядники масово читають усі розмови користувачів. OpenAI офіційно зазначає, що доступ до контенту має обмежена кількість уповноважених працівників і довірених постачальників послуг та лише за визначених умов. Однак розслідування показує, що серед матеріалів, які потрапляють до рецензентів для покращення моделей, можуть бути реальні чати, зокрема такі, де люди діляться особистими або чутливими даними.
За інформацією 404 Media, внутрішній проєкт отримав назву Project Lily. Підрядники мають оцінювати не лише правильність відповідей ChatGPT, а й те, наскільки модель дотримується бажаної манери спілкування.
Зокрема, рецензенти повинні допомагати боротися із двома проблемами, які давно обговорюють розробники мовних моделей: надмірною підлабузливістю та антропоморфізацією, коли чатбот говорить або поводиться так, ніби має власні почуття, свідомість чи особисті стосунки з користувачем.
Робота виглядає приблизно так: людина отримує фрагмент реальної взаємодії користувача з ChatGPT, визначає, чого той намагався досягти, оцінює відповідь моделі та описує її недоліки. За даними публікацій, які переказують розслідування 404 Media, відповіді можуть оцінювати за шкалою від одного до семи.
Окремо рецензентів просять звертати увагу на фактичні помилки та на відсутність джерел у відповідях на чутливі теми, зокрема медичні, юридичні та фінансові питання.
Знайдений журналістами підрядник розповів, що працює у Північній Америці й отримує понад $50 за годину. Роботу він знайшов через рекрутингову компанію Crossing Hurdles, а сама оплата, за даними розслідування, проходить через платформу Mercor.
Відкриті вакансії Crossing Hurdles справді підтверджують характер такого роду роботи. Компанія шукає фахівців, які мають аналізувати й анотувати дані, оцінювати відповіді штучного інтелекту, перевіряти їхню релевантність і точність та надавати письмовий фідбек. У низці вакансій заявлена ставка від $50 до $90 за годину, а в окремих спеціалізованих ролях — і вище.
Найбільш чутливим питанням є те, що саме бачать такі рецензенти.
OpenAI заявляє, що перед використанням даних для покращення моделей вживає заходів для зменшення обсягу персональної інформації. У своєму офіційному FAQ компанія зазначає, що окремі частини контенту можуть передаватися довіреним постачальникам послуг для анотації даних і забезпечення безпеки. Такі постачальники мають дотримуватися вимог щодо конфіденційності й захисту інформації.
Водночас повністю автоматично видалити всі можливі особисті дані складно.
404 Media повідомляє, що OpenAI використовує фільтри для очищення матеріалів перед передачею рецензентам, але сама система може пропускати нетипові ідентифікатори, географічні дані або інформацію, яку алгоритм не розпізнав як приватну. Саме тому в окремих випадках люди, які перевіряють чати, можуть побачити чутливі подробиці.
При цьому підрядникам, за повідомленнями журналістів, не показують ім’я власника акаунта як частину звичайного процесу рецензування.
Однак навіть без імені сам текст розмови іноді здатен містити достатньо інформації, щоб розкрити багато про людину: місце роботи, проблеми у стосунках, стан здоров’я, фінансові питання, службові документи або інші персональні обставини.
Саме це й робить ситуацію чутливою з погляду конфіденційності.
Водночас важливо, що сама можливість людського перегляду не була повністю прихованою політикою OpenAI. На офіційному сайті компанії зараз прямо зазначено: обмежена кількість уповноважених працівників OpenAI та довірених постачальників може отримувати доступ до контенту користувачів для розслідування зловживань, підтримки, юридичних питань або покращення моделей — якщо користувач не відмовився від такого використання даних.
Ключове значення тут має налаштування Improve the model for everyone — «Покращувати модель для всіх».
У персональних версіях ChatGPT контент може використовуватися для навчання і вдосконалення моделей. Користувач може вимкнути цю функцію у Settings → Data Controls → Improve the model for everyone. Після вимкнення нові розмови залишатимуться в історії, однак OpenAI заявляє, що не використовуватиме їх для навчання моделей.
Важлива деталь: відмова стосується нових розмов після зміни налаштування. Тобто вона не є ретроактивною для контенту, який раніше вже міг бути використаний у процесах покращення моделей.
Крім того, є виняток щодо добровільного фідбеку. Навіть якщо користувач вимкнув навчання на своїх чатах, але натискає «подобається» або «не подобається» під конкретною відповіддю і надсилає відгук, пов’язана з ним розмова може використовуватися для вдосконалення системи.
Для більш чутливих тем OpenAI також пропонує Temporary Chat.
Такі розмови не з’являються в історії, не використовують і не створюють пам’ять та, за офіційною інформацією компанії, не використовуються для навчання моделей. OpenAI окремо позиціонує Temporary Chat як варіант для ситуацій, коли користувач не хоче зберігати розмову.
Інші правила діють для бізнес-клієнтів.
OpenAI заявляє, що за замовчуванням не використовує для навчання моделі дані ChatGPT Business, ChatGPT Enterprise та API. Такі клієнти можуть окремо погодитися на передачу даних, але стандартно вони виключені з навчального процесу.
У FAQ також зазначені користувачі освітніх корпоративних продуктів: для Business, Enterprise та Edu діють додаткові обмеження щодо використання даних для тренування.
Розслідування 404 Media звернуло увагу ще на одну проблему — психологічне сприйняття чатботів.
Користувач бачить текстове поле та отримує миттєву відповідь від ШІ, через що легко виникає відчуття розмови «один на один». Деякі люди прямо пишуть ChatGPT, що інформація є секретною або просять його «нікому не розповідати».
Однак подібна фраза в чаті сама по собі не створює технічного режиму конфіденційності й не змінює політику обробки даних.
Тобто написати чатботу «це між нами» недостатньо, щоб заборонити використання розмови відповідно до налаштувань акаунта.
З погляду користувача це одна з найважливіших деталей усієї історії.
OpenAI прямо рекомендує не передавати в ChatGPT інформацію, яку користувач не хотів би, щоб переглядали або використовували сторонні особи. На офіційних сторінках компанії також зазначено, що дані можуть використовуватися для вдосконалення моделей залежно від налаштувань користувача.
Подібна практика не є унікальною для OpenAI.
За даними 404 Media, Anthropic підтвердила використання людських рецензентів для вдосконалення Claude, однак компанія заявила, що це стосується користувачів, які погодилися допомагати покращувати модель. Перед передачею розмов на перевірку Anthropic, за її словами, видаляє ідентифікатори акаунта, зокрема email.
Отже, сенсаційне формулювання про те, що «підрядники OpenAI читають приватні чати», потребує важливого уточнення.
Немає підтверджень, що підрядникам надають необмежений доступ до акаунтів або що хтось довільно відкриває будь-які розмови користувачів. Йдеться про відібрані матеріали, які використовують у процесах оцінювання та вдосконалення систем, із технічними й організаційними обмеженнями доступу.
Але водночас головний висновок розслідування залишається незручним для користувачів: реальну розмову з ChatGPT за певних умов дійсно може побачити людина, і автоматичне приховування персональної інформації не гарантує, що жодна чутлива деталь ніколи не потрапить до рецензента. Цю саму можливість зараз підтверджує й офіційна документація OpenAI.
Для тих, хто регулярно обговорює з ChatGPT особисті, медичні, юридичні, фінансові або корпоративні питання, висновок доволі практичний: варто перевірити налаштування Data Controls, вимкнути використання нових чатів для покращення моделі, якщо це важливо, а для особливо чутливих розмов користуватися Temporary Chat і не вставляти без потреби паролі, номери документів, банківські дані чи конфіденційні робочі матеріали.
Історія Project Lily показує головне: за сучасними системами ШІ стоять не лише алгоритми, дата-центри та програмісти. Значну частину того, що користувач сприймає як «розумну поведінку» чатбота, досі формують люди, які оцінюють відповіді, виправляють помилки та навчають модель поводитися краще.
І саме на перетині цієї людської участі та величезного обсягу особистої інформації виникає нова дискусія про те, наскільки приватною насправді може бути розмова зі штучним інтелектом.
