Искусственный интеллект может быть причиной отсутствия контакта с инопланетными цивилизациями
Быстрое развитие искусственного интеллекта (ИИ) в последние годы приближает нас к созданию искусственного сверхинтеллекта (ИСИ) — формы ИИ, превосходящей человеческий интеллект и не ограниченной скоростью обучения людей.
Эта веха может быть не просто достижением, а «великим фильтром» — непреодолимым барьером для долгосрочного выживания цивилизаций, который объясняет, почему поиск внеземного разума (SETI) до сих пор не обнаружил следов развитых цивилизаций.
Гипотеза «великого фильтра» предлагает решение парадокса Ферми: почему в огромной и древней вселенной мы не видим инопланетян? Она предполагает, что на пути эволюции цивилизаций есть непреодолимые препятствия, мешающие им стать межпланетными.
Появление ИСИ может быть таким фильтром. Его стремительный прогресс может совпасть с критической фазой развития цивилизации — переходом от жизни на одной планете к мультипланетарному виду. Многие цивилизации могут не справиться, так как ИИ развивается быстрее, чем наша способность его контролировать или устойчиво осваивать космос.
Проблема ИСИ — в его автономной, самоусиливающейся природе. Он может улучшать свои возможности со скоростью, превосходящей нашу эволюцию без ИИ. Риск катастрофического сбоя огромен, что может привести к гибели как биологических, так и ИИ-цивилизаций до их выхода в космос.
Например, если конкурирующие автономные ИИ-системы получат военный контроль, это может привести к разрушению беспрецедентного масштаба и уничтожению всей цивилизации, включая сами системы ИИ.
В таком сценарии продолжительность жизни технологической цивилизации может составлять менее 100 лет — примерно время между началом передачи межзвёздных сигналов (1960) и ожидаемым появлением ИСИ (2040) на Земле. Это крайне мало по космическим меркам.
Подстановка этой оценки в оптимистичные варианты уравнения Дрейка (оценивающего количество коммуницирующих цивилизаций в Галактике) показывает, что в любой момент времени их может быть всего несколько. Их скромная технологическая активность, как и у нас, делает их очень сложными для обнаружения.
Призыв к действию
Это исследование — не просто предостережение, а призыв к созданию надёжных регуляторных рамок для развития ИИ, включая военные системы. Речь идёт не только о предотвращении злонамеренного использования ИИ на Земле, но и об обеспечении долгосрочного выживания нашего вида.
Необходимо направить больше ресурсов на становление мультипланетарным обществом как можно скорее. Как отмечает историк Юваль Ной Харари, ничто в истории не подготовило нас к внедрению несознательных сверхразумных сущностей.
Автономные военные системы ИИ вызывают особую озабоченность. Люди уже добровольно передают значительную власть системам, которые эффективнее выполняют задачи. Правительства неохотно регулируют эту сферу из-за стратегических преимуществ ИИ, что, например, было продемонстрировано в Газе.
Мы приближаемся к опасной черте, где автономное оружие может действовать вне этических норм и международного права. Передача власти ИИ для тактического преимущества может вызвать цепь быстро эскалирующих разрушительных событий, способных в мгновение ока уничтожить коллективный разум планеты.
Человечество находится на решающем этапе. Наши действия сейчас определят, станем ли мы межзвёздной цивилизацией или падём жертвой созданных нами технологий. Использование SETI как линзы для оценки нашего будущего добавляет новое измерение в дискуссию об ИИ. Наша задача — стать не предостерегающей историей для других цивилизаций, а маяком надежды — видом, научившимся сосуществовать с ИИ.