Новый вычислительный инструмент помогает интерпретировать ИИ-модели в геномике
Искусственный интеллект проникает во многие сферы жизни, включая биологию. ИИ может анализировать сотни тысяч точек геномных данных для поиска новых терапевтических мишеней. Однако учёные не всегда понимают, как современные модели ИИ приходят к своим выводам. Новая система SQUID призвана открыть «чёрный ящик» неясной внутренней логики ИИ.
SQUID (Surrogate Quantitative Interpretability for Deepnets) — это вычислительный инструмент, созданный учёными из Cold Spring Harbor Laboratory (CSHL). Он помогает интерпретировать, как модели ИИ анализируют геном. По сравнению с другими инструментами, SQUID работает более последовательно, снижает фоновый шум и может приводить к более точным прогнозам эффектов генетических мутаций.
Ключ к эффективности — в специализированном обучении SQUID. Как поясняет профессор CSHL Питер Ку, существующие методы интерпретации пришли из других областей, например, компьютерного зрения или обработки естественного языка, и не оптимальны для геномики. SQUID же использует десятилетия знаний в области количественной генетики, чтобы понять, что изучают глубокие нейронные сети.
Как работает SQUID:
- Сначала он генерирует библиотеку из более 100 000 вариантных последовательностей ДНК.
- Затем анализирует библиотеку мутаций и их эффекты с помощью программы MAVE-NN (Multiplex Assays of Variant Effects Neural Network).
- Этот инструмент позволяет одновременно проводить тысячи виртуальных экспериментов, выявляя алгоритмы, лежащие в основе наиболее точных прогнозов ИИ.
«In silico [виртуальные] эксперименты не заменяют реальные лабораторные, но они могут быть очень информативны. Они помогают учёным строить гипотезы о работе конкретного участка генома или о клинически значимом эффекте мутации», — объясняет соавтор исследования, профессор CSHL Джастин Кинни.
Исследователи надеются, что SQUID поможет учёным выбирать ИИ-модели, которые наилучшим образом соответствуют их специализированным задачам, и эффективнее ориентироваться в сложном ландшафте человеческого генома, приближаясь к пониманию истинных медицинских последствий открытий.
Исследование опубликовано в журнале Nature Machine Intelligence.