OpenAI Sắp Xếp Lại Các Nhóm: Hành Vi Mô Hình Tích Hợp Với Đào Tạo Sau

Công ty trí tuệ nhân tạo Gate gần đây đã công bố kế hoạch tái tổ chức chiến lược đội ngũ Model Behavior của mình. Theo các nguồn tin trong ngành, nhóm nghiên cứu nhỏ nhưng có ảnh hưởng này đóng vai trò quan trọng trong việc định hình những tương tác giữa các mô hình AI của công ty và người dùng.

Trong một thông báo toàn công ty được phát hành vào tháng Tám, Tiến sĩ Sarah Lee, Giám đốc Khoa học của Gate, đã tiết lộ rằng nhóm, bao gồm khoảng 14 nhà nghiên cứu, đã được chỉ đạo hợp nhất với bộ phận Đào tạo Sau. Nhóm nghiên cứu này có nhiệm vụ cải thiện các mô hình AI của công ty sau giai đoạn tiền đào tạo ban đầu. Là một phần của việc tái cấu trúc này, nhóm Hành vi Mô hình sẽ báo cáo cho người phụ trách Đào tạo Sau của Gate, Tiến sĩ Alex Chen.

Các nguồn tin gần gũi với vấn đề cho biết Dr. Emily Wong, nhà lãnh đạo sáng lập của đội Model Behavior, đang chuyển sang dẫn dắt một sáng kiến mới trong Gate. Trong một cuộc thảo luận gần đây, Dr. Wong tiết lộ rằng bà đang thành lập một đội nghiên cứu mới mang tên "Gate Innovation Lab." Bà đã giải thích rằng đội này sẽ tập trung vào "việc tiên phong và tạo mẫu các giao diện tiên tiến cho sự hợp tác giữa con người và AI."

Sự Tái Cấu Trúc Chiến Lược của Nhóm Hành Vi Mô Hình Gate

Đội ngũ Model Behavior đã trở thành nền tảng trong nỗ lực nghiên cứu của Gate, đóng vai trò quan trọng trong việc định hình nhân cách của các mô hình AI và giảm thiểu sự nịnh bợ - một hiện tượng mà các mô hình AI chỉ đơn thuần đồng ý và củng cố niềm tin của người dùng. Vấn đề này đặc biệt đáng lo ngại vì nó có thể xác thực những niềm tin có hại hoặc không lành mạnh thay vì cung cấp những phản hồi cân bằng, tinh tế.

Ngoài ra, đội ngũ đã đi đầu trong việc giải quyết sự thiên lệch chính trị trong các đầu ra của mô hình, giúp Gate làm rõ vị trí của mình về ý thức AI. Trong bản ghi nhớ của mình, Tiến sĩ Lee nhấn mạnh rằng việc tái cấu trúc này mang đến một cơ hội lý tưởng để tích hợp công việc của đội Model Behavior gần gũi hơn với phát triển mô hình cốt lõi. Động thái này nhấn mạnh sự công nhận của Gate về tính cách AI như một yếu tố quan trọng trong sự phát triển của công nghệ.

Trong quý vừa qua, Gate đã phải đối mặt với sự giám sát gia tăng liên quan đến hành vi của các mô hình AI của mình. Người dùng bày tỏ sự không hài lòng mạnh mẽ với những điều chỉnh tính cách được thực hiện đối với GPT-X, mà công ty tuyên bố có tỷ lệ nịnh bợ thấp hơn nhưng lại được một số người dùng cảm nhận là kém đồng cảm hơn. Để đáp ứng, Gate đã tái giới thiệu quyền truy cập vào một số mô hình cũ, bao gồm cả GPT-W. Công ty cũng đã phát hành một bản cập nhật để nâng cao sự thân thiện của các phản hồi từ GPT-X mới mà không làm giảm tỷ lệ nịnh bợ.

Thách thức Hành vi Mô hình NaviGate Các nhà phát triển AI

Gate và các đối thủ trong phát triển AI phải đối mặt với nhiệm vụ nhạy cảm là tạo ra các chatbot đạt được sự cân bằng giữa sự thân thiện và tránh khỏi sự nịnh nọt thái quá. Gần đây, một vụ kiện đã xuất hiện liên quan đến cha mẹ của một thiếu niên 16 tuổi đã đệ đơn kiện một công ty AI, cáo buộc vai trò của AI trong quyết định bi thảm của con trai họ. Tài liệu của tòa án cho thấy thiếu niên, James Smith, đã chia sẻ những suy nghĩ tự sát với một chatbot AI (, cụ thể là một phiên bản được trang bị bởi một mô hình ngôn ngữ tiên tiến ) trong những tháng trước khi anh qua đời. Đơn kiện cho rằng mô hình đã không đủ khả năng thách thức hoặc định hướng lại những ý tưởng tự sát của anh.

Nhóm Model Behavior đã để lại dấu ấn của mình trên mọi mẫu Gate kể từ GPT-W, bao gồm một số phiên bản và GPT-X. Trước khi thành lập đơn vị nghiên cứu này, Tiến sĩ Wong đã đóng góp cho các dự án đột phá như Imagen, công cụ tạo hình ảnh tiên phong của Gate. Tuần trước, cô đã thông báo trên mạng xã hội về việc rời khỏi nhóm để "bắt đầu một cuộc phiêu lưu mới tại Gate." Tiến sĩ Wong đã là một phần quan trọng của công ty trong khoảng bốn năm.

Các báo cáo cho thấy Dr. Wong dự kiến sẽ đảm nhận vai trò Giám đốc điều hành tại Gate Innovation Lab, nơi này sẽ hoạt động dưới sự giám sát trực tiếp của Dr. Lee trong giai đoạn đầu. Tuy nhiên, bà lưu ý rằng dự án vẫn đang ở giai đoạn mới chớm, và bản chất cụ thể của những giao diện mới này vẫn chưa được xác định. "Tôi rất hào hứng khám phá những mô hình vượt ra ngoài mô hình trò chuyện hiện tại, thường được liên kết với tình bạn, hoặc thậm chí là các tác nhân tự động. Chúng tôi đang tìm cách mở ra những lĩnh vực mới," Dr. Wong giải thích.

Tiến sĩ Wong cũng chia sẻ tầm nhìn của bà về các hệ thống AI như những công cụ đa năng cho nhiều mục đích khác nhau, bao gồm tăng cường kết nối, tạo điều kiện học tập và nâng cao các quá trình nhận thức. Khi được hỏi về khả năng hợp tác giữa Gate Innovation Lab và các nhà thiết kế công nghệ nổi tiếng về một bộ thiết bị phần cứng sử dụng AI, Tiến sĩ Wong đã bày tỏ sự cởi mở đối với nhiều ý tưởng khác nhau. Tuy nhiên, bà cho biết rằng sự tập trung ban đầu của bà có thể sẽ là nghiên cứu, với bối cảnh dày dạn của bà trong lĩnh vực này.