Microsoft создала метки для контента ИИ: как распознать подлинность информации.

Инициатива Microsoft по проверке подлинности данных

Как сообщает TSN.ua: На фоне роста числа материалов, сгенерированных искусственным интеллектом, корпорация Microsoft представила техническую спецификацию для подтверждения происхождения цифрового контента. Компания разработала подробный план, помогающий отличать оригинальные материалы от изменённых, хотя пока не обязалась внедрять эти стандарты в собственных продуктах. Данный шаг стал ответом на обостряющуюся проблему доверия к информации в сети.

В процессе создания стандартов было изучено порядка 60 различных комбинаций методов цифровой верификации. Такой подход упростит для пользователей задачу по определению, был ли контент создан человеком или подвергся обработке алгоритмами. Как пояснил главный научный сотрудник Microsoft Эрик Хорвиц:

“Речь идёт не о том, чтобы определять, что есть правда, а что — ложь. Наша цель — маркировка, которая указывает на источник происхождения материала.” - Эрик Хорвиц

Законодательное давление и мировые тренды

Стимулом к разработке также послужил закон о прозрачности искусственного интеллекта, принятый в Калифорнии. Этот нормативный акт акцентирует потребность в системах, позволяющих чётче отслеживать источник и подлинность контента, созданного с применением ИИ-технологий.

Microsoft, владеющая долей в OpenAI и управляющая такими сервисами, как Copilot, облачной платформой Azure и сетью LinkedIn, является одним из ведущих игроков на рынке ИИ. Однако отсутствие обязательств по немедленному внедрению рекомендаций в свои продукты порождает вопросы о реальном влиянии инициативы.

Параллельно в Европейском Союзе готовятся новые нормы по маркировке контента ИИ, что отражает общемировую тенденцию к повышению прозрачности в эпоху стремительного развития технологий. Ожидается, что подобные меры привлекут внимание не только потребителей информации, но и разработчиков, которым предстоит адаптировать свои решения под меняющиеся требования. Для русскоязычных пользователей это означает, что в скором времени основные платформы могут получить встроенные инструменты проверки происхождения контента.

Таким образом, Microsoft ведёт активную работу над стандартами, способными трансформировать подходы к обработке и потреблению данных в цифровой среде. Ключевым остаётся вопрос, станет ли компания применять эти наработки в своих широко распространённых продуктах.

Разработка корпорацией Microsoft стандартов для подтверждения подлинности контента подчёркивает растущую озабоченность проблемой достоверности информации в условиях экспансии искусственного интеллекта. Внедрение подобных инициатив может стать значимым шагом в противодействии дезинформации, особенно с учётом новых законодательных инициатив в разных странах. Наблюдая за развитием событий, важно учитывать, как технологические гиганты будут корректировать свои стратегии в соответствии с запросами рынка и правовыми нормами. В России также обсуждаются подходы к регулированию синтетического контента, что делает опыт крупных IT-компаний особенно актуальным.