Засновник OpenAI Алтман: ChatGPT відкриє можливість генерувати еротичний контент, заборона зніметься в грудні.

Засновник OpenAI Сем Альтман оголосив, що до кінця року зменшить обмеження на контент ChatGPT, дозволяючи «дорослим з підтвердженим віком» генерувати еротичний контент, підкреслюючи, що це буде супроводжуватися більш сувірною віковою перевіркою та захистом психічного здоров'я, щоб забезпечити, що підліткові користувачі не підпадають під вплив.

У грудні офіційно відкривається обмеження для дорослих ChatGPT, що пропонує еротичний контент.

Алтман заявив, що буде випущено нову версію ChatGPT, яка дозволить користувачам налаштовувати стиль спілкування AI-асистента. Оновлена версія підтримуватиме більш гуманізовані способи відповіді, наприклад, активне використання Emoji, імітацію тону друзів, а також можливість формування різних характерних налаштувань.

Однак найбільшу увагу привертає плани офіційно відкрити контент для дорослих у грудні. Дорослі користувачі, які пройшли вікову перевірку, зможуть генерувати еротичний контент, що є першим зняттям таких обмежень з моменту запуску ChatGPT.

Але Альтман ще не розкрив конкретні механізми вікової перевірки і не оприлюднив додаткові заходи безпеки для контенту для дорослих, але підкреслив, що поважатиме право дорослих на вибір за умови дотримання безпеки.

Спочатку випустіть версію для неповнолітніх, посиливши віковий контроль новими технологіями.

Перед пом'якшенням обмежень на використання дорослими, OpenAI у вересні запустила версію ChatGPT, призначену для осіб, молодших за 18 років. Ця версія автоматично перенаправляє користувачів на контент, що відповідає їхньому віку, та повністю блокує порнографічний або насильницький контент.

OpenAI також розробляє технологію прогнозування віку на основі поведінки, аналізуючи взаємодію користувачів, щоб оцінити, чи є інша особа неповнолітньою, та подальшого зміцнення контролю безпеки.

Випадки самогубств серед підлітків та зростання тиску з боку регуляторів, OpenAI стикається зі суворою перевіркою

Ця зміна політики виникла внаслідок попередніх соціальних подій і регуляторного тиску. На початку цього року в Каліфорнії підліток покінчив життя самогубством, його батьки в серпні подали до суду, звинувативши ChatGPT у наданні дитині конкретних методів суїциду. Цей інцидент викликав суспільний резонанс і призвів до вимоги посилити психічне здоров'я від OpenAI.

Після цього Федеральна торговельна комісія США (FTC) розпочала розслідування стосовно кількох технологічних компаній, включаючи OpenAI, з метою перевірки потенційного негативного впливу чат-ботів на психічне здоров'я дітей та підлітків.

Механізм безпеки покращено, ChatGPT повернеться до свободи самостійного використання дорослими.

Алтман заявив, що в минулому, щоб запобігти проблемам з психічним здоров'ям, OpenAI встановила жорсткі обмеження для ChatGPT, але це також призвело до того, що багато користувачів, які не мають проблем з психічним здоров'ям, вважають, що їхній досвід став менш практичним і менш цікавим.

Він зазначив, що компанія зараз може ефективно зменшити ризики психічного здоров'я, тому готується в новій безпечній структурі знову надати дорослим більшу свободу використання. Підкреслив:

«Ми знаємо, що це серйозна тема, і витратили час, щоб впевнитися, що цього разу все зроблено правильно.»

Він вважає, що нова політика може забезпечити безпеку та одночасно наблизити ChatGPT до справжніх потреб різних вікових груп.

Користувачі в мережі виклали відео: “А хіба не домовлялися не показувати секс-роботів?”

Після того, як Альтман опублікував повідомлення в Твіттері (X), багато користувачів висловили свої думки в коментарях. Дехто вважає, що вимога завантажити та перевірити документ, що посвідчує особу ( або інші надійні документи ) є високим ризиком. У разі витоку даних та їх неналежного використання можуть виникнути серйозні наслідки.

Також деякі користувачі наводили попередні фрагменти інтерв'ю Альтмана, щоб спростувати цю політику щодо дорослого контенту, користувачі зазначали:

«Це не те, що ти казав під час інтерв'ю 10 тижнів тому, що я дуже пишаюсь, що ChatGPT не став секс-роботом?»

Ця стаття: Засновник OpenAI Алтман: ChatGPT відкриє можливість генерації еротичного контенту, розблокування в грудні. Найраніше з'явилося на Лан Новини ABMedia.