Тем не менее бытует мнение, что, даже приняв взвешенное решение о внедрении, полагаться на ИИ целиком и полностью не стоит. Вдруг технология начнёт действовать в своих интересах? Что, если машинный интеллект перейдёт на сторону конкурентов? Где гарантии, что ИИ не станет проводником к конфиденциальным данным для киберпреступников? Кроме того, рабочие переживают, что «разумные» технологии отнимут у них хлеб.
На этот раз редакция журнала «Промышленные страницы» обратилась к экспертам с вопросом о том, есть ли грань, за которую не стоит пускать ИИ в рамках производства?
Эксперт рынка Максим Власюк, директор департамента по работе с промышленным сектором Группы Arenadata, считает, что полная автоматизация бизнес-процессов с помощью ИИ пока остаётся скорее гипотетической возможностью, чем реальной стратегией. Это как раз связано с тем, что применение технологии в её текущем виде сопровождается потенциальными угрозами для предприятия. Главный риск заключается в том, что автоматизированные решения пока не обладают достаточной автономностью и гибкостью, чтобы адаптироваться к нестандартным ситуациям. Внедрение ИИ происходит точечно, поскольку компании не готовы полагаться исключительно на алгоритмы.
Даже если ИИ ещё не полностью владеет предприятием, крайне необходимо регулярно проверять уровень безопасности процессов. Эксперты уверены, что провести такой аудит нужно на всех этапах внедрения ИИ: начиная от разработки концепции и заканчивая эксплуатацией.
«Защищённость важна как при тестировании, когда выявляются возможные уязвимости, так и при эксплуатации, поскольку угрозы постоянно эволюционируют. Если не уделить должного внимания этим аспектам, ИИ станет уязвимым для атак, ошибок или некорректных решений, что приведёт к серьёзным последствиям для бизнеса».
Из экспертных мнений становится понятно, что о полной автоматизации на текущем уровне развития ИИ и речи нет. В частности, потому что технология не способна контролировать множественные процессы предприятия без участия человека.
Тем не менее на производстве по-прежнему остаются участки, которые подвластны автоматизированному управлению ИИ-решениями. Нужно только найти баланс.
По словам Максима Власюка, баланс между автоматизацией и человеческим контролем сохраняется естественным образом, поскольку финальные решения по-прежнему остаются за персоналом. А ИИ пока выполняет роль помощника, предлагая варианты решений, но не принимая их самостоятельно. Он добавил, что, например, цифровые помощники могут анализировать нагрузку на серверы и рекомендовать определённые действия, но окончательное решение всегда остаётся за специалистом. Это позволяет сочетать эффективность автоматизированных процессов с экспертной оценкой, минимизируя риски».
Источник: Журнал «Промышленные страницы».