AGI, священный грааль разработки ИИ, овладевает любым когнитивным заданием, которое может выполнить человек, обучается в разных областях и совершенствует себя. И основные строительные блоки уже здесь.
Но когда системы самоулучшаются, даже 1% несоответствия = P(гибель) 💀
Давайте убедимся, что мы все делаем правильно.
🧵
1/🧵
AGI = ИИ, который работает на уровне человеческого эксперта в большинстве когнитивных областей. В отличие от сегодняшнего узкого ИИ (отлично справляющегося с одной задачей), AGI решает незнакомые проблемы, переносит знания между областями и ставит собственные цели.
Неожиданный поворот: основные строительные блоки AGI были уже открыты в 2020-2024 годах.
3/🧵
DeepMind отделяет то, что может делать ИИ, от того, насколько независимо ему разрешено действовать. Они определяют шесть уровней автономии, от инструментов под контролем человека до полностью автономных агентов.
Критически важно, что мощным ИИ не нужна высокая автономия, и даже простой ИИ может быть рискованным, если его оставить без присмотра. Безопасное развертывание зависит не только от возможностей, но и от контроля.
4/🧵
Шестислойный стек безопасности AGI от DeepMind: Интерпретируемость + Мониторинг + Вмешательства в обучение + Защита при развертывании + Безопасные архитектуры + Управление.
Но эти меры безопасности нуждаются в надежном слое выполнения...
Полное исследование:
5/🧵
Вход в Конфиденциальные Вычисления 🔐
💁♀️ Частные Облачные Вычисления Apple (Siri)
💁♀️ Доверенные Виртуальные Машины Anthropic (Claude)
💁♀️ Конфиденциальные контейнеры Azure
Все сходятся на одной цели: Запускать ИИ там, где ни облачные провайдеры, ни злоумышленники не могут получить доступ к внутренним моделям или чувствительным запросам.
6/🧵
Phala Network: Конфиденциальная инфраструктура для безопасного AGI. Ключевые компоненты:
☁️ Поддержка GPU TEE для высокопроизводительного ИИ
☁️ Частный ML SDK (безопасный вывод LLM)
☁️ Redpill Gateway (аудируемый AI API)
☁️ Ончейн аттестация для верификации
Phala доказывает, что ваш AGI-агент действительно сделал то, что он утверждал, безопасно.
Агенты AGI будут работать вне лабораторий — на периферийных устройствах, в финансах, управлении, науке и т.д.
Phala обеспечивает их работу в частном порядке, с возможностью проверки и встроенными аудитами.
Читать далее:
5,82 тыс.
65
Содержание этой страницы предоставляется третьими сторонами. OKX не является автором цитируемых статей и не имеет на них авторских прав, если не указано иное. Материалы предоставляются исключительно в информационных целях и не отражают мнения OKX. Материалы не являются инвестиционным советом и призывом к покупке или продаже цифровых активов. Раздел использует ИИ для создания обзоров и кратких содержаний предоставленных материалов. Обратите внимание, что информация, сгенерированная ИИ, может быть неточной и непоследовательной. Для получения полной информации изучите соответствующую оригинальную статью. OKX не несет ответственности за материалы, содержащиеся на сторонних сайтах. Цифровые активы, в том числе стейблкоины и NFT, подвержены высокому риску, а их стоимость может сильно колебаться. Перед торговлей и покупкой цифровых активов оцените ваше финансовое состояние и принимайте только взвешенные решения.