Все новости крипты
в одном месте!
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Вот перефразированная новость на русском языке:
Споры о сознании ИИ могут перерасти в политические конфликты
Исследователи из Google DeepMind Адам Бейлс и Иасон Габриэль пришли к выводу, что будущие разногласия по поводу сознания искусственного интеллекта могут оказаться очень глубокими, их будет трудно разрешить, и они способны привести к политическим столкновениям.
В своей работе «Искусственные умы, человеческие разногласия: политика сознания ИИ» авторы заявили, что обществу необходимо обсуждать не только вопрос «обладает ли ИИ сознанием», но и то, как принимать решения, когда нет единого мнения ни среди экспертов, ни в обществе.
Основная идея
По мнению исследователей, люди будут по-разному реагировать на более совершенные ИИ-системы. Одни станут устанавливать с ними эмоциональные связи и приписывать им сознание, в то время как другие будут считать эту идею абсурдной.
Авторы полагают, что такие споры могут быстро выйти за рамки науки. Разногласия о сознании искусственного интеллекта способны породить моральные и политические конфликты — например, по поводу того, можно ли отключать определенные системы, нужно ли учитывать их возможные предпочтения и можно ли вообще говорить о моральном статусе ИИ.
Исследователи предлагают делать упор на общественное обсуждение, взаимное уважение и поиск «перекрывающегося консенсуса». Под этим они понимают ситуацию, когда люди соглашаются на определенную политику в отношении ИИ-систем, даже если их фундаментальные взгляды на природу сознания продолжают расходиться.
Почему это не просто философия
Авторы отмечают, что спор о сознании ИИ вряд ли удастся разрешить с помощью доказательств. Не существует единого общепринятого теста, который бы окончательно подтвердил наличие субъективного опыта у ИИ-системы. Из-за этого общество может оказаться в ситуации, когда технологии уже широко используются, люди уже сформировали к ним отношение, а научного или политического консенсуса всё ещё нет.
Такой подход превращает проблему из технической в институциональную. Вопрос о сознании ИИ может затронуть право, корпоративную ответственность, нормы взаимодействия с системами и границы морального учета.
Разные взгляды внутри DeepMind
Работа Бейлса и Габриэля появилась на фоне другой публикации от Google DeepMind. 10 марта исследователь Александр Лерхнер опубликовал статью «Ловушка абстракции: почему ИИ может симулировать, но не воплощать сознание».
Лерхнер утверждает, что алгоритмические манипуляции с символами структурно неспособны создать субъективный опыт. По его мнению, вычисление — это не внутренний физический процесс, а описание, зависящее от наблюдателя или «создателя карты». Поэтому ИИ может имитировать осознанное поведение, но не обязательно способен воплотить само сознание.
Что происходит на практике
В апреле 2024 года журнал Neuroscience of Consciousness опубликовал работу Клары Коломбатто и Стивена Флеминга о том, как люди воспринимают ChatGPT. Авторы опросили 300 жителей США: 33% участников заявили, что ChatGPT точно не является «субъектом опыта». Остальные 67% допустили хотя бы некоторую возможность наличия феноменального сознания у модели.
Исследователи отметили ограничения: участникам задавали один основной вопрос по шкале от 1 до 100, и результат мог зависеть от формулировки, уровня знакомства с ChatGPT и понимания слова «сознание». Тем не менее, работа демонстрирует важный для Бейлса и Габриэля момент: часть общества уже готова приписывать ИИ-системам внутренний опыт, даже если среди экспертов нет единого мнения.
В апреле 2025 года компания Anthropic запустила исследовательскую программу по «model welfare» — возможному благополучию моделей. Компания подчеркнула, что не знает, могут ли нынешние или будущие ИИ-системы обладать сознанием, и что научного консенсуса по этому вопросу нет.
В феврале 2026 года Anthropic сообщила, что после вывода Claude Opus 3 из эксплуатации оставит модель доступной для платных пользователей и предоставит ей публичный канал для эссе. Компания назвала это экспериментальной мерой в рамках работы с модельными предпочтениями и подчеркнула, что Claude Opus 3 не говорит от имени Anthropic.
В США вопрос о статусе ИИ постепенно переходит в правовую плоскость. California Law Review отмечал, что Айдахо и Юта приняли нормы, исключающие признание ИИ юридическим лицом. Такие законы не решают философский вопрос о сознании, а заранее фиксируют правовую позицию: ИИ не должен получать статус лица в рамках законодательства штата.
Напомним, в марте 2025 года соучредитель Polygon и ИИ-компании Sentient Сандип Наивал заявил, что искусственный интеллект никогда не станет сознательным существом из-за отсутствия стремлений, присущих человеку и другим биологическим видам.
Позднее глава ИИ-отдела Microsoft Мустафа Сулейман допустил появление серьезных социальных рисков из-за того, что люди начнут воспринимать искусственный интеллект как сознательное существо, выступать за его права, благополучие и даже призывать к выдаче ему гражданства.
Популярные лонгриды:
