Книга рекордов Гиннеса: представлен самый маленький в мире AI-суперкомпьютер.

Как сообщает ТСН: Компания Tiiny AI Inc из США представила самый маленький в мире миниПК, размеры которого сравнимы со смартфоном.

Устройство, получившее название Tiiny AI Pocket Lab, официально зарегистрировано в Книге рекордов Гиннеса как самый маленький миниПК, способный локально запускать большие языковые модели с более чем 100 миллиардами параметров.

Компактные размеры и мощные возможности

Габариты устройства составляют 142 мм в длину, 80 мм в ширину и 25,3 мм в высоту. Несмотря на маленький размер, Tiiny AI Pocket Lab позиционируется как первый карманный AI-суперкомпьютер, способный полностью выполнять большие языковые модели с параметрами до 120 миллиардов без подключения к облачным сервисам или мощным графическим процессорам.

Отличная энергоэффективность этого миниПК позволяет ему работать в пределах потребления энергии до 65 Вт. По словам разработчиков, это обеспечивает высокий уровень производительности AI-моделей при меньших затратах энергии и сниженном углеродном следе по сравнению с традиционными GPU-системами.

Проблемы облачного искусственного интеллекта

В Tiiny AI подчеркивают важность развития Pocket Lab для будущего искусственного интеллекта. Компания обращает внимание на вызовы, с которыми сталкиваются современные облачные AI-решения, такие как повышенные энергетические затраты, перебои в работе, затраты на передачу данных и угрозы конфиденциальности. По словам разработчиков, не нехватка вычислительной мощности, а именно зависимость от облачной инфраструктуры является главной проблемой современной AI-экосистемы.

«Облачный искусственный интеллект принес значительный прогресс, но в то же время создал зависимость, уязвимость и проблемы с устойчивостью», — заявил директор GTM Tiiny AI Самар Бходж.

Он также добавил, что компания пытается сделать передовой искусственный интеллект личным и приватным, передавая мощность больших моделей не дата-центрам, а конечным пользователям.

Назначение и функции Tiiny AI Pocket Lab

Tiiny AI Pocket Lab предназначен для широкого спектра применений — от разработки и исследований до создания контента и обучения для профессиональной деятельности. Устройство поддерживает многократное размышление, глубокое понимание контекста, агентные рабочие процессы, генерацию текстов и безопасную обработку конфиденциальной информации без доступа к Интернету.

Разработчики также выделяют возможность долгосрочной персональной памяти: все данные, документы и настройки хранятся локально с использованием шифрования банковского уровня, что, по их мнению, обеспечивает высокий уровень приватности и устойчивости, который трудно достичь в большинстве облачных AI-систем.

В новости говорится о знаковом технологическом достижении — запуске самого маленького в мире миниПК Tiiny AI Pocket Lab, который готов конкурировать с традиционными системами благодаря своим компактным размерам и мощным возможностям. Это устройство может не только выполнять сложные языковые модели, но и предлагает решения ряда проблем, которые волнуют современную AI-экосистему, в частности вопросы конфиденциальности и энергоэффективности. Благодаря локальному хранению данных и шифрованию, Tiiny AI сочетает в себе новейшие технологии и потребности пользователей, упрощая доступ к искусственному интеллекту.