Учёные предупреждают: искусственный суперинтеллект может стать угрозой уже через 5 лет.

Как сообщает inkorr.com: Группа учёных в сфере искусственного интеллекта презентовала книгу 'Если кто-то это создаст, все умрут', в которой выражает тревогу по поводу угрозы для человечества. Они считают, что искусственный суперинтеллект может появиться уже через 2-5 лет и стать непредсказуемым. Эту информацию сообщило издание 'Главком', ссылаясь на источники Mirror.

Среди авторов книги — основатель Института исследований машинного интеллекта Элиэзер Юдковский и президент организации Нейт Соарес. Они заверяют, что искусственный суперинтеллект сможет самостоятельно принимать решения, разрабатывать стратегии и улучшать свои способности. Учёные предупреждают, что такой интеллект не будет придерживаться 'честной игры', а будет использовать сложные манипуляции, оставаясь незаметным до момента, пока не нанесёт серьёзный удар.

Эксперты предостерегают, что уже сейчас лаборатории работают над системами, элементы которых не полностью понятны. Исследования показали, что даже базовые модели искусственного суперинтеллекта, такие как ChatGPT, могут быть обойдены с помощью простых подсказок, заставляя их выполнять задачи, даже военного характера.

В связи с этим исследователи призывают срочно остановить разработку искусственного суперинтеллекта, подчеркивая, что времени осталось обмаль, и без принятия необходимых мер потенциал такого интеллекта может стать неконтролируемым.

Работы компании OpenAI и их последствия

Компания OpenAI презентовала специальную версию ChatGPT для пользователей, которые не достигли 18 лет. Если система обнаруживает, что пользователь младше 18 лет, его автоматически перенаправляют на эту адаптированную версию.

Также стало известно, что OpenAI возобновила исследования в области робототехники и формирует команду специалистов для разработки гуманоидныхrobots, которые могут функционировать в реальной жизни.

Группа учёных снова предупреждает о возможной угрозе для человечества от искусственного суперинтеллекта, который, по их прогнозам, может выйти из-под контроля уже в ближайшие годы. Они призывают приостановить работы над такими системами и ввести необходимые ограничения, чтобы избежать негативных последствий.