Виталик, основатель Ethereum, недавно поделился своими мыслями о направлении развития AI Lab. Он считает, что новые проекты в области ИИ должны иметь «расширение возможностей человека» в качестве главной цели, а не слепо стремиться к полностью автономной системе принятия решений.
В частности, Виталик рекомендует таким проектам явно избегать создания систем, способных принимать независимые решения более одной минуты. Этот срок может показаться конкретным, но на самом деле он отражает его глубокое понимание рисков ИИ — оставить достаточное окно для вмешательства людей крайне важно.
Интересно, что он отметил, что нынешнее явление несколько иронично: даже если все опасения по поводу безопасности ИИ оказались необоснованными, на рынке уже полно компаний, занимающихся суперискусственным интеллектом (ASI), стремящимися к полной автономии. В отличие от этого, проекты ИИ, которые действительно сосредоточены на «создании экзоскелетов для человеческого мозга» и помогают людям развивать когнитивные способности и способности, встречаются редко.
В конце концов он призвал к созданию такого рода проекта с дополненным ИИ