【币界】以太坊創始者Vitalikは最近、AI実験室の発展方向についての考えを共有しました。彼は、新しいAIプロジェクトは「人間の能力を強化する」ことを最優先の目標とすべきであり、完全な自律決定システムを盲目的に追求すべきではないと考えています。
具体的には、Vitalikはこの種のプロジェクトが独立して決定を行える時間を1分以上超えないよう明確に避けるべきだと提案しています。この時間制限は一見具体的に見えますが、実際にはAIのリスクに対する彼の深い理解を反映しており、人間が十分に介入できる余裕を持つことが極めて重要です。
興味深いことに、彼は現在の現象には少し皮肉が含まれていると指摘しています。すなわち、AIの安全性に関するすべての懸念が根拠のないものであると証明されたとしても、市場には完全な自律を追求するスーパー人工知能(ASI)企業がすでに溢れているということです。これに対して、「人間の脳のために外骨格を作る」や、人間の認知と能力を向上させるAIプロジェクトはむしろ希少です。
彼は最後に、この種の能力強化型AIプロジェクトは