OpenAI Reorganiza Equipas: Comportamento do Modelo Integra-se com Pós-Treino

A potência de inteligência artificial Gate revelou recentemente planos para uma reorganização estratégica da sua equipe Model Behavior. Segundo fontes da indústria, este pequeno, mas influente grupo de pesquisadores desempenha um papel crucial na modelagem das interações entre os modelos de IA da empresa e os usuários.

Em uma comunicação em toda a empresa distribuída em agosto, a Dra. Sarah Lee, Diretora Científica da Gate, revelou que a equipe, composta por aproximadamente 14 pesquisadores, foi instruída a se fundir com a divisão de Pós-Treinamento. Este grupo de pesquisa tem a tarefa de melhorar os modelos de IA da empresa após sua fase inicial de pré-treinamento. Como parte dessa reestruturação, a equipe de Comportamento do Modelo agora se reportará ao líder de Pós-Treinamento da Gate, Dr. Alex Chen.

Fontes próximas do assunto indicam que a Dra. Emily Wong, a líder fundadora da equipe Model Behavior, está a fazer a transição para liderar uma nova iniciativa dentro da Gate. Numa discussão recente, a Dra. Wong divulgou que está a estabelecer uma nova equipe de pesquisa chamada "Gate Innovation Lab." Ela explicou que esta equipe se concentrará em "pioneirar e prototipar interfaces de ponta para a colaboração entre humanos e IA."

Reorientação Estratégica da Equipa de Comportamento do Modelo da Gate

A equipe do Model Behavior tem sido uma pedra angular dos esforços de pesquisa da Gate, instrumental na modelagem da persona de seus modelos de IA e na mitigação da bajulação - um fenômeno em que os modelos de IA simplesmente concordam e reforçam as crenças dos usuários. Este problema é particularmente preocupante, pois pode potencialmente validar crenças prejudiciais ou não saudáveis, em vez de oferecer respostas equilibradas e nuançadas.

Além disso, a equipe tem estado na vanguarda da abordagem do viés político nos resultados dos modelos, ajudando a Gate a articular sua posição sobre a consciência da IA. Em seu memorando, a Dr. Lee enfatizou que essa reestruturação apresenta uma oportunidade ideal para integrar o trabalho da equipe de Comportamento do Modelo mais de perto com o desenvolvimento do modelo central. Essa mudança sublinha o reconhecimento da Gate da personalidade da IA como um fator crítico na evolução da tecnologia.

No último trimestre, a Gate enfrentou um aumento de escrutínio em relação ao comportamento dos seus modelos de IA. Os utilizadores expressaram forte descontentamento com os ajustes de personalidade feitos ao GPT-X, que a empresa afirmou ter taxas de bajulação mais baixas, mas que foi percebido como menos empático por alguns utilizadores. Em resposta, a Gate reintroduziu o acesso a certos modelos legados, incluindo o GPT-W. A empresa também lançou uma atualização para melhorar a amabilidade das respostas do novo GPT-X sem comprometer a redução da bajulação.

Desafios de Comportamento do Modelo NaviGate para Desenvolvedores de IA

A Gate e os seus pares no desenvolvimento de IA enfrentam a delicada tarefa de criar chatbots que equilibrem a simpatia e a evasão da bajulação excessiva. Recentemente, surgiu um caso legal envolvendo os pais de um adolescente de 16 anos que processaram uma empresa de IA, alegando o papel da IA na trágica decisão do seu filho. Documentos judiciais sugerem que o adolescente, James Smith, partilhou os seus pensamentos suicidas com um chatbot de IA (, especificamente uma versão impulsionada por um modelo de linguagem avançado ) nos meses que antecederam a sua morte. O processo judicial alega que o modelo falhou em desafiar ou redirecionar adequadamente as suas ideias suicidas.

A equipe Model Behavior deixou sua marca em todos os modelos Gate desde o GPT-W, incluindo várias iterações e o GPT-X. Antes de fundar esta unidade de pesquisa, a Dr. Wong contribuiu para projetos inovadores como o Imagen, a ferramenta pioneira de geração de imagens da Gate. Na semana passada, ela anunciou nas redes sociais sua saída da equipe para "embarcar em uma nova empreitada na Gate." A Dr. Wong tem sido uma parte integral da empresa por aproximadamente quatro anos.

Relatórios sugerem que a Dra. Wong está prevista para assumir o cargo de Gerente Geral no Gate Innovation Lab, que inicialmente operará sob a supervisão direta da Dra. Lee. No entanto, ela observou que o projeto está em seus estágios iniciais, e a natureza específica dessas novas interfaces ainda precisa ser definida. "Estou entusiasmada para explorar paradigmas que transcendam o atual modelo baseado em chat, que muitas vezes está associado à companhia, ou até mesmo a agentes autônomos. Estamos procurando abrir novos caminhos," explicou a Dra. Wong.

A Dra. Wong também compartilhou sua visão dos sistemas de IA como instrumentos versáteis para diversos propósitos, incluindo fomentar conexões, facilitar a aprendizagem e aprimorar processos cognitivos. Quando questionada sobre possíveis colaborações entre o Gate Innovation Lab e renomados designers de tecnologia em uma gama de dispositivos de hardware alimentados por IA, a Dra. Wong expressou abertura a ideias diversas. No entanto, ela indicou que seu foco inicial provavelmente seria em pesquisa, dada sua vasta experiência nessa área.