Перефразированная новость:
Канадский писатель и учёный Питер Уоттс в своём научно-фантастическом романе «Ложная слепота» (2006) выдвинул смелую идею: интеллект может существовать без сознания. Сегодня эта гипотеза удивительно точно описывает принцип работы современных генеративных нейросетей.
В статье объясняется, почему способность ИИ решать задачи не означает, что он что-то по-настоящему «понимает», и какие ошибки мы совершаем, когда приписываем алгоритмам человеческие черты.
Ключевые идеи статьи:
* Роман как пророчество. Книга Уоттса, когда-то считавшаяся сложной и нишевой, сегодня читается как комментарий к эпохе ИИ. В ней описаны инопланетные существа («шифровики»), обладающие сверхинтеллектом, но лишённые какого-либо субъективного опыта или сознания.
* Сознание — не необходимость. Автор романа, опираясь на философские концепции (например, «трудную проблему сознания» Дэвида Чалмерса и мысленный эксперимент «Китайская комната» Джона Серла), доказывает, что сознание может быть эволюционным «излишеством». Для решения сложных задач оно не требуется.
* Опасность очеловечивания. Наш мозг эволюционно запрограммирован видеть разум там, где есть сложное поведение, особенно языковое. Это приводит к «эффекту Элизы» — мы приписываем понимание системам, которые лишь умело манипулируют символами и шаблонами, как это делают современные большие языковые модели (LLM).
* Урок для настоящего. Главный вывод «Ложной слепоты» сегодня актуален как никогда: нужно чётко разделять, *что делает* искусственный интеллект (пишет код, переводит текст, поддерживает диалог) и *чем он является* (сложной статистической моделью без сознания, намерений или понимания). Умение видеть эту разницу — критически важный навык в эпоху ИИ.
Популярные лонгриды:
Все новости крипты
в одном месте!
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой