OpenAI инвестирует миллиарды в биозащиту: как искусственный интеллект будет бороться с вирусами.

Как сообщает Vox: Важные новости для развития искусственного общего интеллекта (AGI), который обладает человеческим уровнем интеллекта во всех аспектах. OpenAI, которая ставит целью «обеспечить, чтобы AGI приносил пользу всему человечеству», завершила свой долгожданный план корпоратизации. Это может существенно изменить наш подход к рискам, связанным с ИИ, в частности к биологическим угрозам.

Изменения в структуре OpenAI

Напомним, что OpenAI была основана как некоммерческая организация в 2015 году, а в 2019 году создала прибыльный подраздел. Некоммерческая часть теперь называется OpenAI Foundation, а прибыльный подраздел стал публичной корпорацией с благотворительной целью, известной как OpenAI Group. Foundation контролирует OpenAI Group и владеет 26% акций, которые оцениваются примерно в 130 миллиардов долларов на момент закрытия рекапитализации.

“Мы верим, что самые мощные технологии в мире должны развиваться так, чтобы отражать коллективные интересы общества,” — написала OpenAI в блоге.

Одной из первых инициатив OpenAI, помимо крупных сделок с Microsoft, стало инвестирование 25 миллиардов долларов в ускорение медицинских исследований и разработку “практических технических решений для обеспечения устойчивости ИИ, заключающейся в максимизации его преимуществ и минимизации рисков.”

Риски и возможности

Максимизация преимуществ и минимизация рисков — это ключевые вопросы при разработке мощного ИИ. Использование ИИ в биологии и медицине может улучшить диагностику заболеваний, скорость реагирования и способствовать открытию новых лечебных методов и вакцин. Однако многие эксперты обеспокоены тем, что один из самых больших рисков связан с потенциалом создания опасных биологических агентов, что снижает барьер для разработки смертоносных биологических атак.

OpenAI осознает, что ее инструменты могут быть злоупотреблены для производства биологического оружия.

Компания Frontier AI уже внедрила меры предосторожности для своего ChatGPT Agent, но мы только в начале пути развития ИИ в биологии. Поэтому новость о том, что инвестиционный фонд OpenAI вместе с Lux Capital и Founders Fund выделил 30 миллионов долларов на начальное финансирование биобезопасного стартапа Valthos, имеет такое же значение, как и корпоративная реорганизация.

Valthos планирует создать “технологический стек” для биозащиты быстро. “Как ИИ развивается, жизнь стала программируемой,” — заявила компания в своем блоге после выхода из режима «секретности» в пятницу. “Мир приближается к общему доступу к мощным, двойного назначения биотехнологиям, способным либо устранять болезни, либо создавать их.”

ИИ против рисков

Стоит ли вообще остановить эти инструменты, учитывая их потенциально разрушительное воздействие? В условиях нового прогресса и инвестиций в ИИ это кажется нереалистичным. Ключевым остается вопрос: сможет ли ИИ, который мы развиваем, снизить риски, которые он же и создает? Этот вопрос становится все более актуальным, поскольку OpenAI и другие приближаются к AGI.

Может ли ИИ защитить нас от рисков ИИ?

Valthos представляет будущее, в котором любая биологическая угроза для человечества может быть моментально выявлена и нейтрализована, независимо от источника. “Мы создаем ИИ-системы для быстрого охарактеризования биологических последовательностей и обновления лекарств в реальном времени,” — отметили в компании.

Это позволит быстрее реагировать на вспышки заболеваний, потенциально предотвращая их превращение в пандемии. Мы сможем адаптировать терапии и разрабатывать новые препараты в рекордно короткие сроки, что поможет многим людям с тяжелыми заболеваниями.

Однако мы еще не завершили путь к AGI, и даже без этого сталкиваемся с серьезными рисками от ИИ в биологии, в частности из-за намерений создания новых патогенов, опаснейших за всё известное в природе. У努力Valthos — это шаг в правильном направлении, но компании, занимающиеся ИИ, должны продемонстрировать конкретные результаты.

“Я очень оптимистично настроен относительно потенциала и выгоды, которые общество может получить от ИИ в биологии,” — сказал Яйме Яссф, вице-президент по глобальной биологической политике и программам в Ядерной инициативе угрозы. “Однако важно разрабатывать и внедрять эти инструменты ответственно.”

(Уточнение: ранее я работал в NTI.)

Тем не менее Яссф подчеркивает, что много работы еще осталось, чтобы повысить прогнозирующую силу ИИ в биологии.

ИИ не может функционировать в изоляции — важны дальнейшие инвестиции в структуры, обеспечивающие изменения. Это лишь часть более крупной экосистемы биотехнологических инноваций. Исследователям все еще нужно выполнить значительное количество работы в лаборатории, проводить клинические испытания и оценивать новые терапевтические средства или вакцины. Также важно обеспечить доступ к этим медицинским решениям для тех, кто больше всего этого нуждается, что является непростой задачей из-за бюрократии и проблем финансирования.

Непорядочные лица могут действовать уже сейчас и повлиять на жизнь миллионов быстрее, чем ИИ сможет реализовать свои выгоды. Именно поэтому важно, чтобы меры предостережения против злоупотреблений этими инструментами были немедленно внедрены и успевали за быстрым технологическим прогрессом.

SaferAI, оценивая практики управления рисками в компаниях, занимающихся Frontier AI, ранжирует OpenAI на втором месте после Anthropic. Тем не менее работы еще много. “Дело не только в том, кто на вершине,” — заявил Яссф. “Каждый должен делать больше.”

С приближением OpenAI и других к искусственному интеллекту, превышающему человеческий уровень, вопрос, как максимизировать преимущества и минимизировать риски в биологии, становится все более актуальным. Необходимы большие инвестиции в биозащиту и биобезопасность, поскольку инструменты, способные изменить жизнь, становятся все более сложными. Важно, чтобы ИИ, использованный для борьбы с рисками от ИИ, стал успешным шагом в этом направлении.