【币界】以太坊創始人Vitalik最近、彼のAI実験室の発展方向についての考えを共有しました。彼は、新しいAIプロジェクトは「人間の能力を強化する」ことを最優先の目標とすべきであり、完全な自律決定システムを盲目的に追求すべきではないと考えています。具体的には、Vitalikはこの種のプロジェクトが独立して決定を行える時間を1分以上超えないシステムの開発を明確に避けるべきだと提案しています。この時間制限は一見具体的に見えますが、実際にはAIのリスクに対する彼の深い理解を反映しており、人間が十分に介入できる余地を確保することが極めて重要です。興味深いことに、彼は現在の現象には少し皮肉な側面があると指摘しています。すなわち、AIの安全性に関するすべての懸念が根拠のないものであると証明されたとしても、市場には完全な自律性を追求するスーパー人工知能（ASI）企業がすでに溢れているということです。これに対して、「人間の脳のために外骨格を作る」や、人間の認知や能力を向上させるAIプロジェクトはむしろ希少です。最後に彼は、この種の能力強化型AIプロジェクトはできるだけオープンソースの道を歩むべきだと呼びかけました。これには明らかな利点があります：透明性が高まり、コミュニティの参加も促進され、安全性の審査も容易になるからです。
イーサリアムの創始者VitalikがAIの未来について語る：なぜ「人間の強化」が完全な自律型AIの追求よりも重要なのか
【币界】以太坊創始人Vitalik最近、彼のAI実験室の発展方向についての考えを共有しました。彼は、新しいAIプロジェクトは「人間の能力を強化する」ことを最優先の目標とすべきであり、完全な自律決定システムを盲目的に追求すべきではないと考えています。
具体的には、Vitalikはこの種のプロジェクトが独立して決定を行える時間を1分以上超えないシステムの開発を明確に避けるべきだと提案しています。この時間制限は一見具体的に見えますが、実際にはAIのリスクに対する彼の深い理解を反映しており、人間が十分に介入できる余地を確保することが極めて重要です。
興味深いことに、彼は現在の現象には少し皮肉な側面があると指摘しています。すなわち、AIの安全性に関するすべての懸念が根拠のないものであると証明されたとしても、市場には完全な自律性を追求するスーパー人工知能（ASI）企業がすでに溢れているということです。これに対して、「人間の脳のために外骨格を作る」や、人間の認知や能力を向上させるAIプロジェクトはむしろ希少です。
最後に彼は、この種の能力強化型AIプロジェクトはできるだけオープンソースの道を歩むべきだと呼びかけました。これには明らかな利点があります：透明性が高まり、コミュニティの参加も促進され、安全性の審査も容易になるからです。