OpenAI інвестує мільярди в біозахист: як штучний інтелект боротиметься з вірусами.

Як повідомляє Vox: Важливі новини для розвитку штучного загального інтелекту (AGI), який має людський рівень інтелекту у всіх аспектах. OpenAI, що ставить за мету «забезпечити, щоб AGI приносив користь всьому людству», завершила свій довгоочікуваний план корпоратизування. Це може суттєво змінити наш підхід до ризиків, пов'язаних із AI, зокрема до біологічних загроз.

Зміни у структурі OpenAI

Нагадаємо, що OpenAI була заснована як неприбуткова організація у 2015 році, а у 2019-му створила прибутковий підрозділ. Неприбуткова частина тепер називається OpenAI Foundation, а прибутковий підрозділ став публічною корпорацією з благодійною метою, відомою як OpenAI Group. Foundation контролює OpenAI Group і має 26% акцій, які оцінюються приблизно в 130 мільярдів доларів на момент закриття рекапіталізації.

“Ми віримо, що найпотужніші технології у світі повинні розвиватися так, щоб відображати колективні інтереси суспільства,” — написала OpenAI у блозі.

Однією з перших ініціатив OpenAI, окрім великих угод з Microsoft, стало інвестування 25 мільярдів доларів у прискорення медичних досліджень та розробку “практичних технічних рішень для забезпечення стійкості AI, що полягає у максимізації його переваг та мінімізації ризиків.”

Ризики та можливості

Максимізація переваг і мінімізація ризиків — це ключові питання при розробці потужного AI. Використання AI у біології та медицині може покращити діагностику хвороб, швидкість реагування та сприяти відкриттю нових лікувальних методів і вакцин. Проте багато експертів занепокоєні, що один з найбільших ризиків пов’язаний із потенціалом створення небезпечних біологічних агентів, що знижує бар’єр для розробки смертоносних біологічних атак.

OpenAI усвідомлює, що її інструменти можуть бути зловжиті для виготовлення біозброї.

Компанія Frontier AI вже впровадила запобіжні заходи для свого ChatGPT Agent, але ми лише на початку шляху розвитку AI у біології. Тому новина про те, що інвестиційний фонд OpenAI разом з Lux Capital і Founders Fund виділив 30 мільйонів доларів на початкове фінансування біобезпеки стартапу Valthos, має таку ж важливість, як і корпоративна реорганізація.

Valthos планує створити “технологічний стек” для біозахисту швидкими темпами. “Як AI розвивається, життя стало програмованим,” — заявила компанія у своєму блозі після виходу з режиму «потай» у п’ятницю. “Світ наближається до загального доступу до потужних, двоцільових біотехнологій, здатних або усунути хвороби, або створити їх.”

AI проти ризиків

Чи варто взагалі зупинити ці інструменти, враховуючи їх потенційно руйнівний вплив? В умовах нового прогресу та інвестицій в AI це виглядає нереалістично. Вирішальною залишається питання: чи зможе AI, який ми розвиваємо, зменшити ризики, що він же й створює? Це питання стає дедалі актуальнішим, оскільки OpenAI та інші наближаються до AGI.

Чи може AI захистити нас від ризиків AI?

Valthos уявляє майбутнє, в якому будь-яка біологічна загроза для людства може бути моментально виявлена і нейтралізована, незалежно від джерела. “Ми створюємо AI-системи для швидкого охарактеризування біологічних послідовностей та оновлення ліків в реальному часі,” — зазначили в компанії.

Це дозволить швидше реагувати на спалахи захворювань, потенційно запобігаючи їх перетворенню на пандемії. Ми зможемо адаптувати терапії та розробляти нові препарати в рекордно короткі терміни, що допоможе багатьом людям з важкими захворюваннями.

Однак ми ще не завершили шлях до AGI, і навіть без цього стикаємося з серйозними ризиками від AI у біології, зокрема через наміри створення нових патогенів, небезпечніших за все відоме в природі. Зусилля Valthos — це крок у правильному напрямку, але компанії, що займаються AI, повинні продемонструвати конкретні результати.

“Я дуже оптимістично налаштований щодо потенціалу та вигоди, які суспільство може отримати від AI у біології,” — сказав Яйме Яссф, віцепрезидент з глобальної біологічної політики і програм у Ядерній ініціативі загрози. “Однак важливо розробляти та впроваджувати ці інструменти відповідально.”

(Уточнення: раніше я працював в NTI.)

Проте Яссф підкреслює, що багато роботи ще залишилося, щоб підвищити прогностичну силу AI в біології.

AI не може функціонувати в ізоляції — важливі подальші інвестиції в структури, що забезпечують зміни. Це лише частина більшої екосистеми біотехнологічних інновацій. Дослідникам все ще потрібно виконувати значну кількість роботи в лабораторі, проводити клінічні випробування та оцінювати нові терапевтичні засоби або вакцини. Також важливо забезпечити доступ до цих медичних рішень для тих, хто найбільше цього потребує, що є непростим завданням через бюрократію та проблеми фінансування.

Недобросовісні особи можуть діяти вже зараз і вплинути на життя мільйонів швидше, ніж AI зможе реалізувати свої вигоди. Саме тому важливо, щоб запобіжні заходи проти зловживань цими інструментами були відразу впроваджені та встигали за швидким технологічним прогресом.

SaferAI, оцінюючи практики управління ризиками в компаніях, що займаються Frontier AI, ранжує OpenAI на другому місці після Anthropic. Проте роботи ще багато. “Справа не лише в тому, хто на вершині,” — заявив Яссф. “Кожен повинен робити більше.”

У міру наближення OpenAI та інших до штучного інтелекту, що перевищує людський рівень, питання, як максимізувати переваги й мінімізувати ризики в біології, стає дедалі актуальнішим. Необхідні більші інвестиції в біозахист і біобезпеку, оскільки інструменти, що здатні змінити життя, стають дедалі складнішими. Важливо, щоб AI, використаний для боротьби з ризиками від AI, став успішним кроком у цьому напрямку.