Цифровая тёмная материя, мешающая ИИ в анализе генома
Искусственный интеллект вошёл в нашу жизнь. Сначала это был ChatGPT, теперь — ИИ-генерируемые рекламные ролики пиццы и пива. Хотя мы не можем доверять ИИ на 100%, оказывается, иногда мы и сами не можем правильно использовать ИИ.
Доцент Лаборатории в Колд-Спринг-Харбор (CSHL) Питер Ку обнаружил, что учёные, использующие популярные вычислительные инструменты для интерпретации предсказаний ИИ, получают слишком много «шума» или лишней информации при анализе ДНК. Он также нашёл способ это исправить. Теперь, добавив всего несколько строк кода, учёные могут получать более надёжные объяснения от мощных ИИ, известных как глубокие нейронные сети. Это позволяет им продолжать поиск реальных особенностей ДНК, которые могут сигнализировать о следующем прорыве в медицине. Но учёные не увидят эти сигналы, если они будут заглушены шумом.
В чём причина этого шума? Это таинственный и невидимый источник, подобный цифровой «тёмной материи». Физики и астрономы считают, что Вселенная наполнена тёмной материей, которая оказывает гравитационное воздействие, но её никто не видел. Аналогично, Ку и его команда обнаружили, что данные, на которых обучается ИИ, лишены критически важной информации, что создаёт значительные «слепые зоны». Хуже того, эти слепые зоны учитываются при интерпретации предсказаний ИИ о функции ДНК. Исследование опубликовано в журнале Genome Biology.
Ку объясняет: «Глубокая нейронная сеть включает это случайное поведение, потому что она изучает функцию везде. Но ДНК находится лишь в небольшом подпространстве этого. И это вносит много шума. Мы показываем, что эта проблема действительно создаёт много шума в самых разных популярных моделях ИИ».
Цифровая тёмная материя — результат заимствования учёными вычислительных методов из ИИ для компьютерного зрения. Данные ДНК, в отличие от изображений, ограничены комбинацией четырёх нуклеотидов: A, C, G, T. А данные изображений в виде пикселей могут быть длинными и непрерывными. Другими словами, мы даём ИИ входные данные, которые он не умеет корректно обрабатывать.
Применяя вычислительную поправку Ку, учёные могут точнее интерпретировать анализы ДНК, выполненные ИИ.
Ку говорит: «В итоге мы видим, что сайты становятся гораздо более чёткими и чистыми, а в других регионах меньше ложного шума. Отдельные нуклеотиды, которые считались очень важными, внезапно перестают быть таковыми».
Ку полагает, что проблема шума затрагивает не только анализаторы ДНК на основе ИИ. Он считает, что это широко распространённая проблема среди вычислительных процессов, работающих с аналогичными типами данных. Помните, тёмная материя везде. К счастью, новый инструмент Ку может помочь учёным выйти из темноты на свет.