AGI, священный грааль разработки ИИ, овладевает любым когнитивным заданием, которое может выполнить человек, обучается в разных областях и совершенствует себя. И основные строительные блоки уже здесь.
Но когда системы самоулучшаются, даже 1% несоответствия = P(гибель) 💀
Давайте убедимся, что мы все делаем правильно.
🧵
1/🧵
AGI = ИИ, который работает на уровне человеческого эксперта в большинстве когнитивных областей. В отличие от сегодняшнего узкого ИИ (отлично справляющегося с одной задачей), AGI решает незнакомые проблемы, переносит знания между областями и ставит собственные цели.
Неожиданный поворот: основные строительные блоки AGI были уже открыты в 2020-2024 годах.
3/🧵
DeepMind отделяет то, что может делать ИИ, от того, насколько независимо ему разрешено действовать. Они определяют шесть уровней автономии, от инструментов под контролем человека до полностью автономных агентов.
Критически важно, что мощным ИИ не нужна высокая автономия, и даже простой ИИ может быть рискованным, если его оставить без присмотра. Безопасное развертывание зависит не только от возможностей, но и от контроля.
4,91 тыс.
59
Содержание этой страницы предоставляется третьими сторонами. OKX не является автором цитируемых статей и не имеет на них авторских прав, если не указано иное. Материалы предоставляются исключительно в информационных целях и не отражают мнения OKX. Материалы не являются инвестиционным советом и призывом к покупке или продаже цифровых активов. Раздел использует ИИ для создания обзоров и кратких содержаний предоставленных материалов. Обратите внимание, что информация, сгенерированная ИИ, может быть неточной и непоследовательной. Для получения полной информации изучите соответствующую оригинальную статью. OKX не несет ответственности за материалы, содержащиеся на сторонних сайтах. Цифровые активы, в том числе стейблкоины и NFT, подвержены высокому риску, а их стоимость может сильно колебаться. Перед торговлей и покупкой цифровых активов оцените ваше финансовое состояние и принимайте только взвешенные решения.