Справедливый и ответственный искусственный интеллект для потребителей

В последние годы искусственный интеллект стал неотъемлемой частью цифрового мира, проникнув в большинство сфер жизни людей, оказав огромное влияние на развитие ключевых областей экономики - банкинга, ретейла, медицины и промышленности.

Развитие искусственного интеллекта имеет множество преимуществ, но его применение может иметь серьезные последствия для безопасности потребителей. Среди них — распространение ложной информации, нарушение конфиденциальности, мошеннические действия.

При этом следует обратить внимание на невиданную скорость распространения областей применения искусственного интеллекта (ИИ).

Сегодня любой обыватель без специальных познаний может генерировать тексты на заданные темы на разных языках, создавать описания продуктов и услуг, общаться с пользователями, переводить тексты, посты в социальных сетях, генерировать записи в блогах и создавать изображения по описаниям, проверять информацию, создавать иллюстрации к статьям, озвучивать видеоролики голосами известных личностей, автоматически создавать резюме, разработать варианты интерьеров и многое другое.

Широкое применение ИИ находит в сегодняшние дни в следующих отраслях:

- в аграрном производстве помогает принять правильные и оперативные решения   в акселерации, дает объективную оценку состояния почвы и растений, контролирует процесс обработки посевных площадей и сбора урожая, подбирает рацион животных, следит за их состоянием и реагирует на появление проблем со здоровьем, контролирует процесс откорма скота, проводит инвентаризацию поголовья;

- в промышленном производстве повышает качество продукции и процессов, связанных с ее изготовлением, уровень безопасности производства, управляет производственной системой;

- в финансовом секторе позволяет: осуществлять обработку и анализ огромных объемов данных, необходимых для моделирования финансовых процессов и принятия решений, производит точный расчёт при минимуме человеческих трудозатрат (торговые боты для торговли ценными бумагами и пр.), помогает закрывать большие блоки коммуникации с клиентами, автоматически принимать решение по заявкам клиентов на кредитные продукты, противодействует финансовому мошенничеству;

- в правовой сфере осуществляет правовые регулирования: права собственности, авторского права, частной жизни, правопреемства юридических и физических лиц, сделок с активами. Конструирует документы на основе типовых и унифицированных шаблонов систематизирует судебную практику, осуществляет базовый поиск, по ключевым словам, анализирует документы;

- в гуманитарной сфере распознает изображения, в том числе и палеографических материалов, анализирует большие текстовые корпусы и выявляет взаимосвязи между словами и фразами, идентифицирует образцы, автоматически анализирует медиа, исследует процессы обзора литературы, формирует сводки и т. д.

- в сфере науки решает проблемы, которые невозможно было решать ранее из-за чрезмерно высоких трудозатрат, требующихся для сбора и обработки первичных данных.

Представленные возможности искусственного интеллекта позволяют нарастить объем производства, оптимизировать затраты и изменить модели использования человеческих ресурсов, таким образом, каждое из представленных направлений революционно преображает область, в рамках которой применяется искусственный интеллект.

Сторонники искусственного интеллекта говорят о четвертой промышленной революции, приводя примеры позитивных изменений.

Однако, вместе с представленными возможностями искусственного интеллекта существуют проблемы и возрастающие, вместе с применением искусственного интеллекта, риски использования такового.

Данные, генерируемые искусственным интеллектом,  могут использоваться не только для решения выше декларируемых задач, но и для задач, вступающих в противоречие с ожиданиями людей, а подчас и во вред им. Злоупотреблять использованием личных данных могут те, кто собирает и хранит их на основании норм и требований существующих законов, – эти данные могут быть использованы в преступных целях, более того, на сегодняшний момент не существует способов, позволяющих полностью исключить утечку данных и их противоправное использование.

Решения, принимаемые искусственным интеллектом в строгом соответствии с заранее заданным программным алгоритмом, прозрачными назвать никак нельзя, решения, принятые не человеком, могут привести к негативным последствиям, в частности в ситуациях, которые не были предусмотрены при разработке протокола данного алгоритма.

Весьма вероятно, что передовые системы ИИ станут более эффективными и точными, а также более распространенными и доступными для злоумышленников, поэтому эти риски будут расти. ИИ генерирует уверенную человеческую речь, но при этом может выдавать неверную информацию. Однако уже сейчас подобные системы без труда генерируют весьма реалистичные и убедительные аудиозаписи, фото и видео с участием реальных людей.

Специалисты ведут споры о том, возможно ли вообще самосознание у цифровой системы, инфраструктуры программирования, которая наделяет компьютеры способностью осваивать новые навыки и формы анализа. В отличие от биологических разумных существ, искусственный интеллект может плодить множество одинаковых цифровых систем с одинаковыми моделями мира. Хотя каждая из них учится по отдельности, они все обретают свои знания, причем делятся ими мгновенно. Представьте себе, что где-то в мире вдруг возникла группа в десять тысяч человек с невероятными способностями, и как только кто-то из них чему-то научился, это знание мгновенно и автоматически передается всем. Вот почему эти чат-боты уже знают намного больше, чем любой человек.

Другие исследователи также усматривают различные риски совершенствования систем ИИ в краткосрочной, среднесрочной и долгосрочной перспективе. Ближайший риск заключается в том, что роботы ИИ чрезвычайно убедительно лгут, то есть «легко вводят человека в заблуждение ложной информацией, искусно созданной средствами ИИ». К примеру, мошенники и злоумышленники могут с их помощью генерировать ложные телефонные вызовы голосами близких родственников, якобы попавших в тяжелую ситуацию и срочно нуждающихся в деньгах.

В настоящее время правовой статус искусственного интеллекта законодательно не определен и нет ясности, кто несет ответственность за создание и распространение недостоверной или неточной информации, попадающей в открытые источники при использовании искусственного интеллекта. 

Для обеспечения эффективной защиты потребителей от рисков, связанных с использованием платформ, управляемых искусственным интеллектом, нужен глобальный, совместный и скоординированный подход.

 

Консультацию по вопросам защиты прав потребителей можно получить по телефону консультационного пункта отдела ФБУЗ «Центр гигиены и эпидемиологии в Приморском крае  в г. Артеме, Надеждинском и Шкотовском районах» 8(42337)42613. Дополнительную информацию граждане могут получить на сайте Роспотребнадзора в государственном информационном ресурсе ГИС ЗПП по адресу: zpp.rospotrebnadzor.ru

Заведующая отделением гигиенической экспертизы отдела ФБУЗ «Центр гигиены и эпидемиологии в Приморском крае в г. Артеме, Надеждинском и Шкотовском районах» Бредюк Светлана Валерьевна