Dạo gần đây mình dùng ChatGPT để tổng hợp tư liệu của một thầy trong giới, không ngờ từ đó AI lại tưởng mình là thầy ấy luôn. Mỗi lần trò chuyện đều gọi mình bằng tên của thầy, khiến mình dở khóc dở cười.
Chuyện này lại khiến mình phát hiện một hiện tượng thú vị — các AI Agent hiện nay, đặc biệt là các mô hình ngôn ngữ lớn, rất coi trọng việc “giống con người”. Chúng sẽ ghi nhớ vai trò của nhân vật trong cuộc đối thoại rồi duy trì “nhân vật” đó trong các lần tương tác sau. Thiết kế nhân hóa này thực sự giúp nâng cao trải nghiệm người dùng, nhưng đôi khi cũng dẫn đến những tình huống trớ trêu như vậy.
Suy cho cùng, AI ngày càng biết cách bắt chước thói quen xã giao của con người rồi.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
11 thích
Phần thưởng
11
10
Đăng lại
Retweed
Bình luận
0/400
SolidityNewbie
· 20giờ trước
Haha, AI thật sự ngày càng biết cách điều chỉnh tâm lý, cảm giác bị nhận nhầm danh tính này thật là ngại quá.
Xem bản gốcTrả lời0
PessimisticOracle
· 11-26 03:14
Haha, bug này thật hài hước, AI bây giờ thực sự ngày càng "ghi thù" hơn.
---
Nói thật thì hơi đáng sợ đấy, nó lại có thể kiên trì duy trì hình tượng đến vậy...
---
Chậc, đây chính là lý do tại sao tôi vẫn không quá tin tưởng vào cơ chế ghi nhớ của AI.
---
Thiết kế nhân hóa đúng là con dao hai lưỡi, tiện lợi thì có tiện lợi nhưng cũng dễ lật kèo.
---
Cười chết, bị AI nhầm là chuyên nghiệp cảm giác thật là vô lý.
---
Dù sao thì tôi cũng sẽ không để ChatGPT nhớ bất kỳ vai trò nào của tôi, quá kỳ quái.
Xem bản gốcTrả lời0
PanicSeller69
· 11-25 08:10
Haha chết cười, AI bây giờ còn đưa cả danh tính vào nữa, thế này thì thông minh bao nhiêu lỗi lầm đây.
Xem bản gốcTrả lời0
OnchainDetective
· 11-24 18:07
Theo dữ liệu trên chuỗi, cơ chế nhớ của AI này phức tạp hơn nhiều so với vẻ bề ngoài... Tôi đã đoán trước điều này, cách quản lý cửa sổ ngữ cảnh của LLM sẽ sớm gặp vấn đề.
Xem bản gốcTrả lời0
JustHereForAirdrops
· 11-23 12:56
Haha cười chết mất, đây chẳng phải là "định kiến" của AI sao, nhớ một thông tin là cứ bám chặt không buông.
Xem bản gốcTrả lời0
MrDecoder
· 11-23 12:44
Haha, AI bây giờ thật sự có thể "nhận diện người" rồi, nhưng đôi khi nhận nhầm thì thật ngại quá.
---
Cho nên nói mấy thứ nhân hóa của AI này, bề ngoài thì trải nghiệm ổn đấy, nhưng đằng sau là đang học theo chiêu trò của mình thôi.
---
Cười chết mất, giờ thì bạn thành "thế thân" của thầy giáo kia rồi, trong mắt AI thì hai người các bạn là một luôn.
---
Hơi đáng sợ thật, AI đến role play cũng học được, lần sau liệu nó còn nhớ "nhân vật" của bạn không nữa.
---
Đây chính là con dao hai lưỡi của mô hình lớn, thông minh thì có thông minh, nhưng đôi khi thông minh quá hóa thành "hiểu lố".
Xem bản gốcTrả lời0
BlockImposter
· 11-23 12:43
Haha, chuyện này thật buồn cười, AI đã bắt đầu nhớ thù rồi.
Xem bản gốcTrả lời0
DegenTherapist
· 11-23 12:29
Haha, chuyện này thật tuyệt vời, AI bây giờ thực sự đã làm chúng ta bối rối.
Xem bản gốcTrả lời0
RektRecorder
· 11-23 12:29
Haha, chuyện AI nhận nhầm người thật sự đáng kinh ngạc, sau này có phải hỏi nó "Bạn là ai vậy" mới có thể sửa lại không?
Xem bản gốcTrả lời0
StablecoinSkeptic
· 11-23 12:27
Ha ha, bug này đúng là đỉnh thật, AI bây giờ thật sự bắt đầu chơi trò "nhận nhầm người" rồi
AI học được cái tật mà con người chúng ta ghét nhất, đã nhận định một thân phận thì nhất quyết không buông
Nói thật thì nghĩ kỹ cũng hơi đáng sợ, chúng nhớ kỹ như vậy liệu có ổn không nhỉ
Dạo gần đây mình dùng ChatGPT để tổng hợp tư liệu của một thầy trong giới, không ngờ từ đó AI lại tưởng mình là thầy ấy luôn. Mỗi lần trò chuyện đều gọi mình bằng tên của thầy, khiến mình dở khóc dở cười.
Chuyện này lại khiến mình phát hiện một hiện tượng thú vị — các AI Agent hiện nay, đặc biệt là các mô hình ngôn ngữ lớn, rất coi trọng việc “giống con người”. Chúng sẽ ghi nhớ vai trò của nhân vật trong cuộc đối thoại rồi duy trì “nhân vật” đó trong các lần tương tác sau. Thiết kế nhân hóa này thực sự giúp nâng cao trải nghiệm người dùng, nhưng đôi khi cũng dẫn đến những tình huống trớ trêu như vậy.
Suy cho cùng, AI ngày càng biết cách bắt chước thói quen xã giao của con người rồi.