Виталик: Боится ИИ и АСИ, поддерживает создание инструментов для повышения интеллекта людей, а не создание сверхразумной жизни

22 декабря, в ответ на недавние разработки продуктов, связанных с AGI, в области OpenAI и ИИ, основатель Ethereum Виталик Бутерин опубликовал на платформе X сообщение: "Мое определение AGI (Искусственного Общего Интеллекта) таково: AGI — это достаточно мощный искусственный интеллект, который, если бы однажды все люди внезапно исчезли и этот ИИ был загружен в тело робота, смог бы самостоятельно продолжать цивилизацию.

Очевидно, что это очень сложное определение для измерения, но я думаю, что именно это является ключевым интуитивным различием между 'ИИ, к которому мы привыкли' и 'AGI' в сознании многих людей. Это отмечает переход от инструмента, который постоянно полагается на человеческий ввод, к самодостаточной форме жизни. ASI (Искусственный Суперинтеллект) — это совершенно другое дело — мое определение заключается в том, что люди больше не добавляют ценности к производительности в цикле (как в шахматах, где мы достигли этой точки только за последнее десятилетие.)

Да, ASI меня пугает — даже мой определенный AGI меня пугает, потому что он несет очевидные риски потери контроля. Я поддерживаю сосредоточение наших усилий на создании инструментов интеллектуального улучшения для людей, а не на создании супер-интеллектуальных форм жизни."