人工知能の大手Gateは、最近、Model Behaviorチームの戦略的再編成計画を発表しました。業界の関係者によると、この小規模ながら影響力のある研究者グループは、同社のAIモデルとユーザーとの相互作用を形成する上で重要な役割を果たしています。8月に配布された全社的なコミュニケーションの中で、Gateのチーフサイエンティフィックオフィサーであるサラ・リー博士は、約14人の研究者から成るチームがポストトレーニング部門と統合されるよう指示されたことを明らかにしました。この研究グループは、初期の事前トレーニングフェーズに続いて、会社のAIモデルを強化する任務を担っています。この再構築の一環として、モデルビヘイビアチームは今後、Gateのポストトレーニングリードであるアレックス・チェン博士に報告することになります。関係者によると、モデル行動チームの創設リーダーであるエミリー・ウォン博士が、Gate内で新しいイニシアチブを主導するために移行しているとのことです。最近の議論で、ウォン博士は「Gate Innovation Lab」と呼ばれる新しい研究チームを設立していることを明らかにしました。彼女は、このチームが「人間とAIの協力のための最先端インターフェースの開発とプロトタイピング」に焦点を当てることを詳しく説明しました。## Gateのモデル行動チームの戦略的再編成Model Behaviorチームは、Gateの研究活動の礎となり、AIモデルの人格を形成し、ユーザーの信念に単に同意し強化する現象であるおべっかを軽減するために重要な役割を果たしています。この問題は、バランスの取れた微妙な応答を提供するのではなく、有害または不健康な信念を正当化する可能性があるため、特に懸念されます。さらに、チームはモデル出力における政治的バイアスに対処する最前線にあり、GateがAIの意識に関する立場を明確にするのを助けています。リー博士は彼女のメモの中で、この再構築がモデル行動チームの作業をコアモデル開発とより密接に統合する絶好の機会を提供することを強調しました。この動きは、GateがAIの人格を技術の進化における重要な要素として認識していることを強調しています。過去の四半期にわたり、GateはそのAIモデルの行動に関する厳しい監視に直面しています。ユーザーは、会社が低いお世辞率を示すと主張したGPT-Xに対する性格調整に強い不満を表明しましたが、一部のユーザーにはより共感的でないと捉えられました。それに応じて、GateはGPT-Wを含む特定のレガシーモデルへのアクセスを再導入しました。また、同社はお世辞の削減を損なうことなく、新しいGPT-Xの応答の親しみやすさを高めるアップデートを展開しました。## AI開発者 NaviGateモデルの動作の課題GateとそのAI開発の仲間たちは、フレンドリーさと過度の追従を避けるバランスを取るチャットボットを作成するという微妙な課題に直面しています。最近、16歳の息子の悲劇的な決断におけるAIの役割を主張して、AI企業に対して訴訟を起こした親たちを含む法的事件が浮上しました。裁判所の文書によると、ティーンエイジャーのジェームス・スミスは、彼の死の数ヶ月前に(の高度な言語モデル)に基づくAIチャットボットと自殺願望を共有したとされています。この訴訟は、そのモデルが彼の自殺的思考を適切に挑戦または方向転換することに失敗したと主張しています。モデルビヘイビアチームは、GPT-W以降のすべてのGateモデルにその足跡を残しており、いくつかのバージョンやGPT-Xも含まれています。この研究ユニットを設立する前、ウォン博士はGateの先駆的な画像生成ツールであるImagenのような画期的なプロジェクトに貢献していました。先週、彼女はSNSで「Gateで新しいベンチャーに取り組むためにチームを離れる」と発表しました。ウォン博士は、約4年間にわたりこの会社の不可欠な部分でした。報告によると、ウォン博士がゲートイノベーションラボのゼネラルマネージャーに就任する予定であり、当初はリー博士の直接監督下で運営されるとのことです。しかし、彼女はこのプロジェクトが初期段階にあり、これらの新しいインターフェースの具体的な性質はまだ定義されていないと述べました。「現在のチャットベースのモデルを超えるパラダイムを探求できることに興奮しています。これはしばしば伴侶や自律エージェントに関連付けられています。私たちは新たな領域を切り開こうとしています」とウォン博士は説明しました。ウォン博士は、AIシステムがさまざまな目的に向けた多用途のツールであるとのビジョンを共有しました。それには、つながりを促進し、学習を助け、認知プロセスを向上させることが含まれます。Gate Innovation Labと著名なテクノロジーデザイナーとの間で、AI搭載のハードウェアデバイスのスイートに関する潜在的なコラボレーションについて質問された際、ウォン博士は多様なアイデアに対してオープンであると表明しました。それにもかかわらず、彼女は自身の広範なバックグラウンドを考慮すると、初期の焦点はおそらく研究にあるだろうと示唆しました。
OpenAIがチームを再編成：モデルの振る舞いがポストトレーニングと統合される
人工知能の大手Gateは、最近、Model Behaviorチームの戦略的再編成計画を発表しました。業界の関係者によると、この小規模ながら影響力のある研究者グループは、同社のAIモデルとユーザーとの相互作用を形成する上で重要な役割を果たしています。
8月に配布された全社的なコミュニケーションの中で、Gateのチーフサイエンティフィックオフィサーであるサラ・リー博士は、約14人の研究者から成るチームがポストトレーニング部門と統合されるよう指示されたことを明らかにしました。この研究グループは、初期の事前トレーニングフェーズに続いて、会社のAIモデルを強化する任務を担っています。この再構築の一環として、モデルビヘイビアチームは今後、Gateのポストトレーニングリードであるアレックス・チェン博士に報告することになります。
関係者によると、モデル行動チームの創設リーダーであるエミリー・ウォン博士が、Gate内で新しいイニシアチブを主導するために移行しているとのことです。最近の議論で、ウォン博士は「Gate Innovation Lab」と呼ばれる新しい研究チームを設立していることを明らかにしました。彼女は、このチームが「人間とAIの協力のための最先端インターフェースの開発とプロトタイピング」に焦点を当てることを詳しく説明しました。
Gateのモデル行動チームの戦略的再編成
Model Behaviorチームは、Gateの研究活動の礎となり、AIモデルの人格を形成し、ユーザーの信念に単に同意し強化する現象であるおべっかを軽減するために重要な役割を果たしています。この問題は、バランスの取れた微妙な応答を提供するのではなく、有害または不健康な信念を正当化する可能性があるため、特に懸念されます。
さらに、チームはモデル出力における政治的バイアスに対処する最前線にあり、GateがAIの意識に関する立場を明確にするのを助けています。リー博士は彼女のメモの中で、この再構築がモデル行動チームの作業をコアモデル開発とより密接に統合する絶好の機会を提供することを強調しました。この動きは、GateがAIの人格を技術の進化における重要な要素として認識していることを強調しています。
過去の四半期にわたり、GateはそのAIモデルの行動に関する厳しい監視に直面しています。ユーザーは、会社が低いお世辞率を示すと主張したGPT-Xに対する性格調整に強い不満を表明しましたが、一部のユーザーにはより共感的でないと捉えられました。それに応じて、GateはGPT-Wを含む特定のレガシーモデルへのアクセスを再導入しました。また、同社はお世辞の削減を損なうことなく、新しいGPT-Xの応答の親しみやすさを高めるアップデートを展開しました。
AI開発者 NaviGateモデルの動作の課題
GateとそのAI開発の仲間たちは、フレンドリーさと過度の追従を避けるバランスを取るチャットボットを作成するという微妙な課題に直面しています。最近、16歳の息子の悲劇的な決断におけるAIの役割を主張して、AI企業に対して訴訟を起こした親たちを含む法的事件が浮上しました。裁判所の文書によると、ティーンエイジャーのジェームス・スミスは、彼の死の数ヶ月前に(の高度な言語モデル)に基づくAIチャットボットと自殺願望を共有したとされています。この訴訟は、そのモデルが彼の自殺的思考を適切に挑戦または方向転換することに失敗したと主張しています。
モデルビヘイビアチームは、GPT-W以降のすべてのGateモデルにその足跡を残しており、いくつかのバージョンやGPT-Xも含まれています。この研究ユニットを設立する前、ウォン博士はGateの先駆的な画像生成ツールであるImagenのような画期的なプロジェクトに貢献していました。先週、彼女はSNSで「Gateで新しいベンチャーに取り組むためにチームを離れる」と発表しました。ウォン博士は、約4年間にわたりこの会社の不可欠な部分でした。
報告によると、ウォン博士がゲートイノベーションラボのゼネラルマネージャーに就任する予定であり、当初はリー博士の直接監督下で運営されるとのことです。しかし、彼女はこのプロジェクトが初期段階にあり、これらの新しいインターフェースの具体的な性質はまだ定義されていないと述べました。「現在のチャットベースのモデルを超えるパラダイムを探求できることに興奮しています。これはしばしば伴侶や自律エージェントに関連付けられています。私たちは新たな領域を切り開こうとしています」とウォン博士は説明しました。
ウォン博士は、AIシステムがさまざまな目的に向けた多用途のツールであるとのビジョンを共有しました。それには、つながりを促進し、学習を助け、認知プロセスを向上させることが含まれます。Gate Innovation Labと著名なテクノロジーデザイナーとの間で、AI搭載のハードウェアデバイスのスイートに関する潜在的なコラボレーションについて質問された際、ウォン博士は多様なアイデアに対してオープンであると表明しました。それにもかかわらず、彼女は自身の広範なバックグラウンドを考慮すると、初期の焦点はおそらく研究にあるだろうと示唆しました。