Главная
ИИ показал и доказал свою эффективность, вместе с тем общество узнало о его недостатках: предвзятости, рисках «слива» конфиденциальных данных и вытеснении с рабочих мест людей. Как не допустить их проявления, рассказал Джерри Хотовец (Jerry Hotovec), директор по глобальным операциям с персоналом (Director of Global People Operations) в Netflix, в своей статье SSON. Делимся с вами его советами.
1. Прежде, чем запускать ИИ, убедитесь в прозрачности и подотчетности этой технологии
ИИ может быть очень самостоятельным. Чтобы не удивляться его решениям и впопыхах не устранять их последствия, Джерри советует сделать следующее:
- разработать четкую документацию, в которой будут прописаны все нюансы функционирования искусственного интеллекта: от его обучения до вариантов использования в компании;
- распределить обязанности. Компания должна знать, кто несет ответственность за результаты внедрений и каждое решение алгоритмов. Для понимания важности этого пункта эксперт приводит пример с самоуправляемым автомобилем: «Без надлежащей подотчетности как мы определяем, кто или что виновато в аварии? Это человек, находившийся в автомобиле, искусственный интеллект, ответственный за принятое им решение, производитель или отсутствие регулирования?»;
- использовать RAG (Retrieval Augmented Generation) для улучшения алгоритмов там, где точность наиболее важна (выплаты, льготы и т.д.). RAG – метод повышения точности большой языковой модели (LLM) путем её обучения на основе надежных дополнительных источников. Принцип её работы простыми словами описан в этой статье.
2. Убедитесь в отсутствии предвзятости ИИ
«Это же не человек! Откуда предвзятость?», – можете спросить вы, а Джерри Хотовец ответит:
«Все люди по своей сути предвзяты. Почему же тогда мы должны ожидать, что машина, созданная и обученная людьми, будет беспристрастной?»
Среди известных примеров предвзятости ИИ:
- холм-овца. Исследователи обнаружили интересный факт: системы распознавания изображений, глядя на травянистый холм, называли его овцой. Причина проста – большая часть фотографий-примеров овцы сделана на лугах, где они живут, и на этих изображениях трава занимает намного больше места, чем маленькие беленькие животные, и именно траву системы считают самой важной;
- обнаружение рака с помощью линейки. Дерматологи часто фотографируют линейку вместе с проявлениями рака кожи, чтобы зафиксировать размер образований. На примерах фотографий здоровой кожи линеек нет. В одном проекте по обнаружению рака кожи на фотографиях система ИИ воспринимала такой прибор как одно из ключевых отличий нездоровой кожи. Таким образом, система, созданная для опознавания рака кожи, иногда вместо него опознавала линейки;
- мужчины лучше женщин. В 2017 году специалисты по машинному обучению компании Amazon обнаружили, что их механизм рекрутинга «не любил» женщин. Самообучаемая система Amazon проанализировала введенные данные о принятых ранее на различные позиции кандидатах и «научилась» тому, что кандидаты-мужчины предпочтительнее. Разработчики не смогли гарантировать, что решат проблему, и компания остановила использование этого алгоритма.
Защита от предвзятости – важнейший аспект внедрения эффективного ИИ. Особенно если речь идёт о решениях, которые могут повлиять на карьеру и благополучие сотрудников.
Для обеспечения беспристрастности алгоритмов Джерри советует следующее:
- проводите регулярные аудиты и обзоры моделей ИИ для выявления и исправления любых возможных искажений. «Вы не найдете того, что не ищете активно, поэтому вам нужно тратить время и ресурсы на мониторинг», – уверен эксперт;
- используйте большие и разнообразные наборы данных для обучения вашего алгоритма. Так вы повысите репрезентативность своей выборки и уменьшите предвзятость будущего решения на основе ИИ.
3. Обеспечьте безопасность и защиту конфиденциальности
В каждом ОЦО, как и в каждой компании, есть множество конфиденциальной информации. Её сохранность и соответствие правилам её обеспечения сейчас и в будущем – важная часть работы над решениями на основе ИИ. Чтобы всего это достигнуть, Джерри рекомендует:
- перед внедрением посоветоваться с юристами, специалистами по вопросам безопасности и риск-менеджерами, чтобы понять, чего точно делать не нужно;
- убедитесь, что решение будет соответствовать будущим нормам регулирования ИИ. Пока таких нет, но правительства многих стран активно их лоббируют. «Грядут дополнительные нормативные акты. Ожидайте изменений и дополнительного надзора», – говорит эксперт.
- средства контроля безопасности и конфиденциальности данных должны быть описаны в документации к проекту, так сотрудники будут больше доверять внедряемому ИИ.
4. Расширьте права и возможности сотрудников
Часто внедрение ИИ воспринимается сотрудниками как прямая угроза: «Роботы всех нас заменят». Важно убедить их в том, что искусственный интеллект должен помогать им, а не заменять их. Конечно, при условии, что специалист готов расти, потому что рутинные задачи по нажиманию кнопочек и копированию информации из одной ячейки в другую действительно будут переданы роботам.
Чтобы успокоить сотрудников, необходимо:
- провести с ними честные беседы и объяснить нюансы грядущих изменений. При этом важно раскрыть все возможности, которые ИИ открывает не только перед бизнесом, но и перед конкретным специалистом;
- разработать и запустить программы обучения и повышения квалификации, особенно для сотрудников, занимающих должности с наибольшим риском смещения.
Вместо подведения итогов
«Помните: “С большой властью приходит большая ответственность”. Вольтер … или Человек-паук (в зависимости от ваших предпочтений). Вам, как руководителям, решать, где лучше всего использовать возможности, которые дает ИИ», – подчеркивает Джерри Хотовец. В конце концов, именно на плечах топ-менеджеров лежит ответственность за результат внедрения искусственного интеллекта. Принесёт ли решение реальную пользу бизнесу или просто позволит менять цвет в инфографике дашбордов, решать только вам, руководители.
Больше информации об использовании искусственного интеллекта можно найти, кликнув на тег #ИИ вверху статьи.
Узнать о применении алгоритмов в ОЦО из первых уст вы сможете на Сороковой конференции «Общие центры обслуживания: организация и развитие», которая пройдёт в Набережных Челнах 25-27 сентября.
