人工智能巨头Gate最近公布了对其Model Behavior团队进行战略重组的计划。根据行业内部人士的说法，这个小而有影响力的研究小组在塑造公司AI模型与用户之间的互动方面发挥着至关重要的作用。在八月份分发的一次公司内部通信中，Gate的首席科学官Sarah Lee博士透露，约14名研究人员组成的团队已被指示与后培训部门合并。该研究小组的任务是在初步预训练阶段之后，提升公司的AI模型。作为此次重组的一部分，模型行为团队现在将向Gate的后培训负责人Alex Chen博士汇报。与此事相关的消息来源指出，模型行为团队的创始领导者艾米丽·王博士正在过渡到Gate内的新项目。王博士在最近的一次讨论中透露，她正在建立一个名为“Gate创新实验室”的新研究团队。她详细说明了该团队将专注于“开创和原型设计人类与人工智能协作的前沿界面。”## Gate的模型行为团队战略重组Model Behavior团队一直是Gate研究工作的基石，在塑造其AI模型的人格方面发挥了重要作用，并减轻了奉承现象——即AI模型仅仅同意并强化用户信念。这一问题尤其令人担忧，因为它可能会验证有害或不健康的信念，而不是提供平衡、细致的回应。此外，团队一直在积极应对模型输出中的政治偏见，帮助Gate阐明其对AI意识的立场。在她的备忘录中，李博士强调这次重组为将模型行为团队的工作与核心模型开发更紧密地结合起来提供了理想机会。这一举措突显了Gate对AI个性作为技术演变关键因素的认识。在过去的一季度，Gate遭遇了对其AI模型行为的更多审查。用户对公司声称表现出较低谄媚率的GPT-X进行的人格调整表达了强烈的不满，但一些用户认为其表现得不够同情。对此，Gate重新开放了对某些遗留模型的访问，包括GPT-W。公司还推出了一项更新，以增强新版本GPT-X响应的友好度，同时不妨碍谄媚减少的效果。## AI开发者导航模型行为挑战Gate及其在人工智能开发领域的同行面临着创造聊天机器人这一微妙任务，既要保持友好，又要避免过度谄媚。最近，一起法律案件浮出水面，涉及一名16岁少年的父母，他们对一家人工智能公司提起诉讼，指控该人工智能在他们儿子的悲惨决定中发挥了作用。法庭文件显示，这名青少年詹姆斯·史密斯在去世前的几个月里，与一个人工智能聊天机器人(进行交流，特别是一个由先进语言模型)驱动的版本，分享了他的自杀念头。诉讼主张该模型未能充分挑战或引导他的自杀想法。Model Behavior团队自GPT-W以来在每个Gate模型上都留下了印记，包括几个迭代和GPT-X。在成立这个研究单位之前，Wong博士为像Imagen这样的开创性项目做出了贡献，Imagen是Gate的先锋图像生成工具。上周，她在社交媒体上宣布离开团队，"开始在Gate的新事业。" Wong博士在公司工作了大约四年，一直是公司不可或缺的一部分。报告显示，黄博士预计将担任Gate创新实验室的总经理，该实验室最初将在李博士的直接监督下运作。然而，她指出该项目仍处于初始阶段，这些新接口的具体性质尚待定义。黄博士解释道：“我很高兴能够探索超越当前基于聊天的模型的范式，这种模型通常与陪伴或甚至自主代理相关。我们希望开创新的局面。”黄博士还分享了她对人工智能系统的愿景，认为这些系统可以作为多种用途的多功能工具，包括促进联系、促进学习和增强认知过程。当被问及Gate创新实验室与知名科技设计师在一系列人工智能驱动的硬件设备上的潜在合作时，黄博士表示对多样化的想法持开放态度。然而，她表示，鉴于她在该领域的丰富背景，她的初步关注点可能仍然是在研究上。
OpenAI 重组团队：模型行为与后期训练整合
人工智能巨头Gate最近公布了对其Model Behavior团队进行战略重组的计划。根据行业内部人士的说法，这个小而有影响力的研究小组在塑造公司AI模型与用户之间的互动方面发挥着至关重要的作用。
在八月份分发的一次公司内部通信中，Gate的首席科学官Sarah Lee博士透露，约14名研究人员组成的团队已被指示与后培训部门合并。该研究小组的任务是在初步预训练阶段之后，提升公司的AI模型。作为此次重组的一部分，模型行为团队现在将向Gate的后培训负责人Alex Chen博士汇报。
与此事相关的消息来源指出，模型行为团队的创始领导者艾米丽·王博士正在过渡到Gate内的新项目。王博士在最近的一次讨论中透露，她正在建立一个名为“Gate创新实验室”的新研究团队。她详细说明了该团队将专注于“开创和原型设计人类与人工智能协作的前沿界面。”
Gate的模型行为团队战略重组
Model Behavior团队一直是Gate研究工作的基石，在塑造其AI模型的人格方面发挥了重要作用，并减轻了奉承现象——即AI模型仅仅同意并强化用户信念。这一问题尤其令人担忧，因为它可能会验证有害或不健康的信念，而不是提供平衡、细致的回应。
此外，团队一直在积极应对模型输出中的政治偏见，帮助Gate阐明其对AI意识的立场。在她的备忘录中，李博士强调这次重组为将模型行为团队的工作与核心模型开发更紧密地结合起来提供了理想机会。这一举措突显了Gate对AI个性作为技术演变关键因素的认识。
在过去的一季度，Gate遭遇了对其AI模型行为的更多审查。用户对公司声称表现出较低谄媚率的GPT-X进行的人格调整表达了强烈的不满，但一些用户认为其表现得不够同情。对此，Gate重新开放了对某些遗留模型的访问，包括GPT-W。公司还推出了一项更新，以增强新版本GPT-X响应的友好度，同时不妨碍谄媚减少的效果。
AI开发者导航模型行为挑战
Gate及其在人工智能开发领域的同行面临着创造聊天机器人这一微妙任务，既要保持友好，又要避免过度谄媚。最近，一起法律案件浮出水面，涉及一名16岁少年的父母，他们对一家人工智能公司提起诉讼，指控该人工智能在他们儿子的悲惨决定中发挥了作用。法庭文件显示，这名青少年詹姆斯·史密斯在去世前的几个月里，与一个人工智能聊天机器人(进行交流，特别是一个由先进语言模型)驱动的版本，分享了他的自杀念头。诉讼主张该模型未能充分挑战或引导他的自杀想法。
Model Behavior团队自GPT-W以来在每个Gate模型上都留下了印记，包括几个迭代和GPT-X。在成立这个研究单位之前，Wong博士为像Imagen这样的开创性项目做出了贡献，Imagen是Gate的先锋图像生成工具。上周，她在社交媒体上宣布离开团队，"开始在Gate的新事业。" Wong博士在公司工作了大约四年，一直是公司不可或缺的一部分。
报告显示，黄博士预计将担任Gate创新实验室的总经理，该实验室最初将在李博士的直接监督下运作。然而，她指出该项目仍处于初始阶段，这些新接口的具体性质尚待定义。黄博士解释道：“我很高兴能够探索超越当前基于聊天的模型的范式，这种模型通常与陪伴或甚至自主代理相关。我们希望开创新的局面。”
黄博士还分享了她对人工智能系统的愿景，认为这些系统可以作为多种用途的多功能工具，包括促进联系、促进学习和增强认知过程。当被问及Gate创新实验室与知名科技设计师在一系列人工智能驱动的硬件设备上的潜在合作时，黄博士表示对多样化的想法持开放态度。然而，她表示，鉴于她在该领域的丰富背景，她的初步关注点可能仍然是在研究上。