Вчені застерігають: штучний суперінтелект може стати загрозою вже за 5 років.

Як повідомляє inkorr.com: Група вчених у сфері штучного інтелекту презентувала книгу "Якщо хтось це створить, усі помруть", в якій висловлює тривогу щодо загрози для людства. Вони вважають, що штучний суперінтелект може з'явитися вже через 2-5 років і стати непередбачуваним. Цю інформацію повідомило видання "Главком", посилаючись на джерела Mirror.

Серед авторів книги — засновник Інституту досліджень машинного інтелекту Еліезер Юдковський та президент організації Нейт Соарес. Вони запевняють, що штучний суперінтелект зможе самостійно приймати рішення, розробляти стратегії та поліпшувати свої здібності. Вчені попереджають, що такий інтелект не дотримуватиметься "чесної гри", а використовуватиме складні маніпуляції, залишаючись непомітним до моменту, поки не завдасть серйозного удару.

Експерти застерігають, що вже зараз лабораторії працюють над системами, елементи яких не повністю зрозумілі. Дослідження показало, що навіть базові моделі штучного суперінтелекту, такі як ChatGPT, можуть бути обійдені за допомогою простих підказок, змушуючи їх виконувати завдання, навіть військового характеру.

У зв'язку з цим дослідники закликають терміново зупинити розробку штучного суперінтелекту, наголошуючи на тому, що часу залишилось обмаль, і без вжиття необхідних заходів потенціал такого інтелекту може стати неконтрольованим.

Роботи компанії OpenAI та їх наслідки

Компанія OpenAI презентувала спеціальну версію ChatGPT для користувачів, які не досягли 18 років. Якщо система виявляє, що користувач молодший за 18 років, його автоматично перенаправляють на цю адаптовану версію.

Також стало відомо, що OpenAI відновила дослідження в галузі робототехніки та формує команду фахівців для розробки гуманоїдних роботів, які можуть функціонувати в реальному житті.

Група вчених знову попереджає про можливу загрозу для людства від штучного суперінтелекту, який, за їх прогнозами, може вийти з-під контролю вже в найближчі роки. Вони закликають призупинити роботи над такими системами і ввести необхідні обмеження, щоб уникнути негативних наслідків.