Повышение безопасности исследований ИИ для инженерной биологии

Эксперты Бристольского университета определили риски, связанные с использованием методов, ориентированных на данные, в инженерии биологии, с целью повышения безопасности будущих исследований.

Потенциальное злонамеренное использование подходов, основанных на данных, в синтетической биологии представляет значительный риск. Легкий доступ к инструментам науки о данных может позволить злоумышленникам разрабатывать вредоносные биологические агенты для целей, таких как биотероризм, или преднамеренно нарушать экологические системы.

Результаты, опубликованные в Synthetic Biology, предлагают дополнительные ярлыки «Опасности данных» (Data Hazard labels), описывающие связанные с данными риски в области синтетической биологии.

• Неопределенная точность исходных данных — точность исходных данных неизвестна, поэтому их использование может привести к ошибочным результатам или внести смещение.
• Неопределенная полнота исходных данных — исходные данные имеют неопределенную полноту и содержат пропущенные значения, что вызывает смещенные результаты.
• Интеграция несовместимых данных — используются вместе данные разных типов и/или источников, которые могут быть несовместимы друг с другом.
• Способность причинить экологический вред — эта технология потенциально способна нанести широкомасштабный экологический вред, даже при правильном использовании.
• Потенциальная экспериментальная опасность — перевод технологии в экспериментальную практику может потребовать мер безопасности.

Работа стала результатом сотрудничества исследователей из Бристольского центра инженерной биологии (BrisEngBio) и Института Жана Голдинга по исследованиям с интенсивным использованием данных.

Кирен Шарма, соавтор и аспирант, работающий в области ИИ для клеточного моделирования в Школе инженерной математики и технологий, заявил: «Мы вступаем в эпоху преобразований, когда искусственный интеллект и синтетическая биология сходятся, чтобы произвести революцию в биологической инженерии, ускоряя открытие новых соединений — от спасающих жизни фармацевтических препаратов до устойчивого биотоплива.

Наше исследование выявило потенциальные риски, связанные с конкретными типами данных, используемых для обучения новейших моделей системной биологии. Например, несоответствия в измерениях сложных и динамичных живых организмов и проблемы конфиденциальности, которые могут поставить под угрозу безопасность моделей следующего поколения, обученных на данных генома человека».

Проект расширяет работу проекта Data Hazards, целью которого является создание четкого словаря потенциальных опасностей исследований в области науки о данных.

Соавтор и соруководитель проекта Data Hazards, доктор Нина Ди Кара из Школы психологических наук, пояснила: «Наличие четкого словаря опасностей облегчает исследователям возможность заранее задуматься о рисках своей работы и помогает принять смягчающие меры. Это также облегчает общение людям, работающим в разных областях, которые иногда используют разный язык для обсуждения одних и тех же проблем».

Для создания таких четких словарей междисциплинарное сотрудничество необходимо.

Доктор Дэниел Лоусон, директор Института Жана Голдинга и доцент кафедры науки о данных в Школе математики, отметил: «По мере роста масштабов и амбиций наборов данных разрабатываются все более сложные алгоритмы для получения новых знаний. Эта сложность делает крайне важным совместный, неразобщенный подход к выявлению и предотвращению последующего вреда».

Доктор Томас Гороховски, старший автор и доцент кафедры биологической инженерии в Школе биологических наук, добавил: «Наука о данных призвана революционизировать то, как мы конструируем биологию, чтобы использовать ее уникальные возможности для решения глобальных проблем, включая устойчивое производство материалов и топлива, а также разработку инновационных терапевтических средств.

Расширения, разработанные нашей командой, помогут биоинженерам учитывать и обсуждать риски подходов, ориентированных на данные, в своих исследованиях и помогут обеспечить безопасную реализацию огромных преимуществ биологических решений».