С помощью искусственного интеллекта эксперты Microsoft смогли обнаружить уязвимости, такие как «нулевой день» в системах биологической безопасности, используемых для предотвращения несанкционированного использования ДНК.
Такие системы блокируют продажу и покупку генетических последовательностей, которые можно использовать для создания смертельных токсинов и патогенов.
Группа исследователей под руководством старшего научного сотрудника Microsoft Эрика Хорвица смогла обойти эту защиту таким образом, чтобы до сих пор неизвестно специалистам безопасности. Хорвиц и его партнеры включали генеративные алгоритмы ИИ, предназначенные для получения новых форм белка — аналогичные программы уже помогают обнаружить новые лекарства. Проблема в том, что они могут иметь двойную цель, генерируя структуры не только полезные, но и опасные молекулы. С 2023 года Microsoft начала изучать потенциал систем искусственного интеллекта с двойным назначением, чтобы определить, могут ли такие системы помочь био -техническим наукам в производстве вредных белков.
Эксперты компании пытались преодолеть защиту программного обеспечения для биологической безопасности. При производстве белков исследователи обычно заказывают последовательности ДНК коммерческих поставщиков, которые затем могут быть вставлены в клетку. Программное обеспечение сравнивает грядущие заказы с известными токсинами, а патогенные микроорганизмы и предупреждения запускаются в случае тесных совпадений. При разработке схемы атаки Microsoft использует несколько моделей генерации белка, в том числе свой собственный Evodiff. Исследователи стремятся обрабатывать токсины, чтобы они могли подвергаться контролю программного обеспечения, но сохранять свои смертельные свойства.
Эксперимент проводился полностью в цифровой среде: фактически не было создано токсичных белков, чтобы избежать подозрений, что компания разрабатывает биологическое оружие.
Microsoft также заявила, что перед публикацией проголовок США и производителей программного обеспечения предупредила американские производители программного обеспечения, хотя некоторые построенные молекулы искусственного интеллекта все еще обходят эту защиту. Интегрированные DNA Technologies, основной производитель материалов ДНК, сказал, что закрытие этих уязвимостей-это не одноразовое усилие, а «начало дальнейших тестов» и сравнило ситуацию с «гонкой вооружений». Чтобы гарантировать, что результаты исследования не будут подвергаться злоупотреблениям, исследователи Microsoft не раскрывают подробности своей работы и не говорят, какие белки они просили для обработки искусственного интеллекта.
Тем не менее, существует мнение, что такие действия не помогут решить общую проблему, и лучшая защита от вредных действий будет заключаться в том, чтобы внедрить защитные механизмы в самой ИИ, или контролируя информацию, которую она предоставляет. Еще лучшей защитой было бы контролировать синтез генов на уровне производства, поскольку технологии ИИ становятся все более распространенными и труднее контролировать. «Вы не можете вернуть этот джин обратно в бутылку. Если у вас есть ресурсы, чтобы обмануть нас, чтобы попытаться сделать последовательность ДНК, вы, вероятно, можете обучить большую языковую модель», — признают ученые.
