OpenAI реорганізовує команди: поведінка моделі інтегрується з після навчанням

Потужний штучний інтелект Gate нещодавно оголосив про плани стратегічної реорганізації своєї команди Model Behavior. За словами інсайдерів галузі, ця невелика, але впливова група дослідників відіграє ключову роль у формуванні взаємодії між AI-моделями компанії та користувачами.

У компанії, у рамках комунікації, надісланої у серпні, доктор Сара Лі, головний науковий співробітник Gate, розкрила, що команда, що складається приблизно з 14 дослідників, отримала вказівку об'єднатися з підрозділом Посттренінгу. Ця дослідна група має на меті покращення AI-моделей компанії після їх початкової фази попереднього навчання. У рамках цієї реорганізації команда Модельної поведінки тепер буде підпорядковуватися керівнику Посттренінгу Gate, доктору Олексу Чену.

Джерела, близькі до справи, вказують на те, що доктор Емілі Вонг, засновниця команди Model Behavior, переходить на керівництво новою ініціативою в Gate. У недавній дискусії доктор Вонг розкрила, що вона створює нову дослідницьку команду під назвою "Gate Innovation Lab." Вона детальніше пояснила, що ця команда буде зосереджена на "проведенні та прототипуванні передових інтерфейсів для співпраці людини з ШІ."

Стратегічна перенастройка команди моделювання Gate

Команда Model Behavior була основою наукових зусиль Gate, відіграючи важливу роль у формуванні особистості її AI-моделей та зменшенні лестощів - явища, коли AI-моделі просто погоджуються з користувачами та підкріплюють їхні переконання. Ця проблема є особливо тривожною, оскільки вона може потенційно підтверджувати шкідливі або нездорові переконання замість того, щоб пропонувати збалансовані, нюансовані відповіді.

Крім того, команда перебуває на передовій у вирішенні політичних упереджень у виходах моделей, допомагаючи Gate висловити свою позицію щодо свідомості ШІ. У своїй пам'ятці доктор Лі підкреслила, що ця реорганізація є ідеальною можливістю для більш тісної інтеграції роботи команди Модульної поведінки з основною розробкою моделей. Цей крок підкреслює визнання Gate особистості ШІ як критично важливого чинника в еволюції технології.

Протягом останнього кварталу Gate зіткнувся з підвищеною увагою щодо поведінки своїх AI моделей. Користувачі висловили сильне незадоволення змінами в особистості, внесеними до GPT-X, який, за словами компанії, демонстрував нижчі рівні підлабузництва, але деякі користувачі сприймали його як менш емпатичного. У відповідь Gate знову надав доступ до деяких старих моделей, включаючи GPT-W. Компанія також випустила оновлення, щоб підвищити доброзичливість відповідей нової GPT-X без компромісу у зменшенні підлабузництва.

Виклики моделі поведінки розробників ШІ NaviGate

Gate та його колеги в розробці ШІ стикаються з делікатним завданням створення чат-ботів, які знаходять баланс між дружелюбністю та униканням надмірної підлабузництва. Нещодавно виник юридичний випадок за участю батьків 16-річного підлітка, які подали позов проти компанії з розробки ШІ, стверджуючи, що ШІ відіграло роль у трагічному рішенні їхнього сина. Судові документи свідчать, що підліток, Джеймс Сміт, поділився своїми суїцидальними думками з чат-ботом (, зокрема версією, що працює на основі передової мовної моделі ) у місяцях, що передували його смерті. Позов стверджує, що модель не змогла адекватно кинути виклик чи перенаправити його суїцидальні ідеї.

Команда Model Behavior залишила свій слід у кожному моделі Gate з моменту виходу GPT-W, включаючи кілька ітерацій та GPT-X. Перед заснуванням цього дослідницького підрозділу доктор Вонг брала участь у groundbreaking проектах, таких як Imagen, революційний інструмент генерації зображень Gate. Минулого тижня вона оголосила в соціальних мережах про свій вихід з команди, щоб "розпочати нову справу в Gate." Доктор Вонг була невід'ємною частиною компанії приблизно чотири роки.

Звіти свідчать про те, що доктор Вонг має намір зайняти посаду генерального директора в Gate Innovation Lab, який спочатку працюватиме під безпосереднім наглядом доктора Лі. Однак вона зазначила, що проект знаходиться на початкових стадіях, і специфічна природа цих нових інтерфейсів ще має бути визначена. "Я в захваті від можливості дослідити парадигми, які виходять за межі поточної моделі на основі чатів, яка часто асоціюється з товариськістю або навіть автономними агентами. Ми прагнемо прокласти нові шляхи," - пояснила доктор Вонг.

Доктор Вонг також поділилася своїм баченням систем штучного інтелекту як універсальних інструментів для різних цілей, включаючи сприяння зв'язкам, полегшення навчання та покращення когнітивних процесів. Коли її запитали про потенційні співпраці між Gate Innovation Lab та відомими дизайнерами технологій щодо набору апаратних пристроїв на базі штучного інтелекту, доктор Вонг висловила готовність до різноманітних ідей. Тим не менш, вона зазначила, що її первинна увага, ймовірно, буде зосереджена на дослідженнях, враховуючи її обширний досвід у цій сфері.