Безопасность данных в эпоху широкодоступного ИИ
27 февраля в Бишкеке прошел «ПЛАС-Форум Digital Kyrgyzstan», на котором эксперты из госсектора и технологических компаний обсудили вопросы цифровизации в разных сферах. Одной из основных тем стал искусственный интеллект: насколько бизнес в отраслях готов к его внедрению и какие вызовы для этого предстоит преодолеть.
Согласно исследованию IDC*, проведенному среди ИТ-директоров в регионе EMEA, инвестиции бизнеса в ИИ в странах Европы, Ближнего Востока и Африки увеличатся на 104% в 2025 году. Однако, несмотря на рост адаптации и доверия к ИИ, сдерживающими факторами остаются:
- стоимость внедрения,
- безопасность данных,
- квалификация сотрудников,
- этичное использование ИИ.
Григорий Прялухин, руководитель отдела продвижения решений для ЦОД Lenovo ISG в странах Восточной Европы и Центральной Азии, в рамках своего выступления на форуме отметил:
«Многие менеджеры отмечают колоссальное количество проблем, возникающих при внедрении искусственного интеллекта. Во-первых, дороговизна внедрения и ROI (возврат инвестиций), во-вторых, безопасность данных. Это заставляет компании думать о построении инфраструктур для запуска приложений искусственного интеллекта непосредственно в своих центрах обработки данных, в своих серверных помещениях и на своем оборудовании».
Безопасность данных
Проблема качества данных, на которых обучаются большие языковые модели, — одна из самых обсуждаемых на дискуссионных площадках по всему миру. В исследовании на это обратили внимание почти треть опрошенных (29%).
Использование некачественных данных может привести к серьезным рискам для бизнеса. Большие языковые модели, обученные на некачественных данных, могут увековечивать различные социальные предубеждения и формы дискриминации. Это снижает объективность и точность предоставляемых ИИ выводов, а в некоторых случаях может иметь для бизнеса нежелательные юридические последствия. Использование открытых или «неочищенных» данных увеличивает уязвимость ИТ-инфраструктуры, т.к. такие данные часто служат для распространения дезинформации, спама и других форм вредоносной активности.
При применении решений ИИ, работающих в облаке, встает вопрос безопасности данных. Кто управляет данными в облаке? Кто за них отвечает? Могут ли их там скомпрометировать, украсть? Эти вопросы и риски (воровства, каких-то неправомерных использований персональных данных для мошенничества и т.д.) подталкивают бизнес делать выбор в пользу построения гибридных ИТ-инфраструктур, а также внедрения политик и регламентов безопасной работы с данными и с ИИ.
Стандартизация и регламентирование
Для обеспечения безопасности данных, повышения осведомленности о правилах и этике использования искусственного интеллекта 45% компаний в регионе EMEA применяют политики корпоративного руководства, управления рисками и соответствия нормативным требованиям (GRP, Governance, Risk and Compliance). Еще 33% разрабатывают такие регламенты. При этом почти четверть предприятий (22%) не планируют создавать регулирующие документы — это самый высокий показатель по всему миру.
Интересно, что бизнес-подразделения часто применяют подобные регламенты ограниченно, тогда как ИТ-департаменты наиболее активно внедряют все необходимые требования. Такое расхождение показывает, что компаниям не хватает единого подхода к управлению ИИ-решениями. Это важно для прозрачности использования ИИ, повышения подотчетности, этичности и конфиденциальности при работе с ИИ, а следовательно, для безопасности компании в целом.
Нехватка квалифицированных специалистов
Проблема нехватки компетенций на рынке касается как технических специалистов, которые разбираются во внедрении и управлении ИИ, так и сотрудников со стороны бизнеса, которые должны понимать, как применять ИИ максимально эффективно и какую реальную пользу это может принести предприятию.
Согласно данным исследования, дата-сайенс и аналитика входят в топ-3 областей, которые организации планируют развивать в течение года. Таким образом, специалисты с навыками в этих направлениях будут наиболее востребованы на рынке.
Решить проблемы управления ИИ организации могут, сотрудничая с поставщиками профессиональных услуг, как например, Lenovo, предлагающими готовые системы управления, инструменты оценки рисков или контроля соответствия регламентам, адаптированные к потребностям конкретной отрасли.
ИТ-инфраструктура
На начальных этапах развития ИИ многие проекты сталкивались с проблемами из-за недостаточно развитой ИТ-инфраструктуры. ИИ-решения требуют иных мощностей, так что компании сосредоточены на выстраивании масштабируемой инфраструктуры, которая будет готова к большим нагрузкам; надежного хранилища и практик безопасности, которые покроют новые сценарии работы с данными.
По данным исследования 65% организаций в регионе EMEA полагаются на собственную (локальную) или гибридную архитектуру и лишь 18% опрошенных — используют общедоступное облако.
Гибридный подход предполагает использование публичных облаков и сервисов для менее важных данных, тогда как собственные инфраструктуры, мощности, СХД – бизнес использует для данных, которые требуют крайне тщательной защиты. Такое сочетание облачных ресурсов и on-premise позволяет гибко управлять производительностью системы при соблюдении регуляторных требований и корпоративных политик. Кроме того, общий тренд возврата бизнеса из инфраструктур облачных провайдеров на свое собственное оборудование, свои ЦОДы, обусловлен тем, что это дешевле и безопаснее. В этом случае бизнес сам контролирует то, как его ИИ-приложения будут работать, производительность, скорость доступа и т.д.
Чтобы повысить безопасность данных и производительность инфраструктуры, ИТ-директорам следует инвестировать в технологии проверки данных на основе ИИ и использовать гибридный подход к инфраструктуре. Одновременно с этим важно обеспечить обучение сотрудников взаимодействию с ИИ во всей организации и внедрить регламент такого взаимодействия. Разработка надежных и адаптируемых систем управления становится ключевым конкурентным преимуществом, отделяющим организации, способные ответственно подходить к инновациям, от тех, кто все еще ориентируется в сложностях интеграции ИИ.
* Исследование It's Time for AI-nomics было проведено IDC по заказу Lenovo в регионе EMEA (Европа, Ближний Восток и Африка). В опросах приняли участие 620 ИТ-руководителей компаний среднего и крупного бизнеса из Дании, Восточной Европы, Франции, Германии, Италии, стран Ближнего Востока, Нидерландов, Испании и Великобритании. Полевая работа проводилась в ноябре 2024 г. Исследование проводится ежегодно.
