ИИ-прогнозы речного стока могут быть точными, но основаны на ошибочной логике

Искусственный интеллект меняет методы прогнозирования речного стока, но новое исследование под руководством учёных из Университета Британской Колумбии показывает, что эти модели часто дают правильные ответы по неправильным причинам.

Исследователи изучили модели глубокого обучения типа LSTM, широко используемые для прогнозирования реакции рек на изменения в осадках, снежном покрове и температуре. Эти модели ценятся за точность, но исследование выявило, что их внутренняя «логика» часто противоречит фундаментальным научным принципам.

«Одной точности недостаточно, — говорит доктор Али Амели, доцент кафедры наук о Земле, океане и атмосфере UBC и автор-корреспондент статьи. — Если модель предсказывает подъём уровня в дождевой реке во время волны жажды без осадков — это проблема. Нам нужны прогнозы, отражающие физику движения воды в ландшафте».

Результаты опубликованы в журнале Water Resources Research.

Точные прогнозы стока критически важны для предупреждения о наводнениях, планирования засух и управления водными ресурсами. Если модели ИИ неверно интерпретируют влияние тепла и испарения на реки, сообщества могут столкнуться с ошибочными решениями во время экстремальных погодных явлений — такими как ненужные сбросы воды из водохранилищ или пропущенные предупреждения о паводках. Поскольку изменение климата приносит больше волн жары и сдвиги в таянии снега, правильность этих прогнозов важна для безопасности и устойчивости.

Команда проанализировала более 1100 рек по всей Северной Америке, сосредоточившись на 672, где ИИ показал высокую прогностическую точность. Они создали новый инструмент, чтобы заглянуть внутрь «чёрного ящика» и увидеть, как модели связывают осадки, температуру и PET (сокращение от potential evapotranspiration — потенциал испарения, «спрос» атмосферы на воду) с речным стоком. Результаты были однозначны: хотя модели правильно обрабатывали осадки, они часто неверно интерпретировали роль температуры и испарения.

Проще говоря, в дождливых регионах модели иногда предполагают, что волны жары или сухой воздух заставляют реки подниматься — даже когда дождя нет. В снежных регионах они часто рассматривают PET как основной триггер таяния снега, а не температуру. Эти закономерности не соответствуют физической реальности.

Исследование также вызывает опасения по поводу долгосрочных климатических прогнозов, сделанных с использованием передовых методов ИИ. По мере роста глобальных температур будут меняться взаимосвязи между осадками, снегом, температурой и испарением. Если модели построены на ошибочной логике, их прогнозы будущей доступности воды могут быть ненадёжными.

Чтобы выявить эти проблемы, исследователи разработали специальную для гидрологии структуру «объяснимого ИИ». Этот метод изолирует влияние каждого фактора — осадков, температуры и PET — на речной сток, показывая, имеет ли смысл рассуждение модели. В большинстве регионов модели последовательно связывали краткосрочные скачки температуры и рост PET с увеличением речного стока, даже там, где этого происходить не должно.

«Мы не говорим, что нужно отказаться от глубокого обучения, — говорит доктор Амели. — Мы говорим: проверяйте его. Создавайте защитные механизмы, чтобы модели изучали правильную физику. С лучшими входными данными и физическими ограничениями ИИ может стать мощным инструментом для прогнозирования водных ресурсов».

Команда предлагает практические решения: удалить сезонные закономерности, которые сбивают с толку модели; добавить недостающие физические факторы, такие как таяние ледников; внедрить физику движения воды в алгоритмы ИИ; использовать диагностические инструменты для проверки моделей перед их внедрением. Эти шаги помогут гарантировать, что высокая точность отражает верную физику, а не «короткие пути» в данных.

Исследование возглавил аспирант UBC Ара Баяти, автор-корреспондент — доктор Али Амели из UBC, соавтор — доктор Саман Разави из Университета Саскачевана.