Совершенно сенсационное заявление сделано Верховным комиссаром ООН по правам человека Мишель Бачелет — первый раз громко и однозначно заявлено о катастрофической (!) опасности бесконтрольного развития систем искусственного интеллекта для будущего человечества.
Бачелет выступила за запрет некоторых ИИ-приложений, противоречащих международному законодательству о правах человека, например, продуктов, связанных с социальной оценкой людей на основе дискриминационных критериев. Комиссар отметила, что в настоящее время отсутствуют гарантии ответственного использования ИИ-технологий кем-либо, поэтому правительства должны ограничить возможность их эксплуатации. Если этого не произойдёт, алгоритмы, потенциально ущемляющие права человека, продолжат использоваться без какого-либо надзора, нанося ещё больше вреда гражданам.
«Мы не можем позволить себе играть в догонялки в отношении искусственного интеллекта, разрешая его использование с ограничениями или без них и иметь практически неизбежные последствия для прав человека постфактум», — считает Бачелет. Она подчеркнула, что различные алгоритмы уже присутствуют в каждом аспекте жизни многих людей, начиная от получения государственных услуг и заканчивая контентом, который могут просматривать пользователи интернета.
Эти комментарии комиссар ООН дала после публикации отчёта, который был подготовлен её офисом по результатам изучения влияния ИИ-алгоритмов на права человека, в том числе на неприкосновенность частной жизни, права на образование, свободу передвижения и др.
***
Всецело разделяю эти опасения и считаю их абсолютно обоснованными. Отдельно уточню, что речь идёт не о злой воле некоего нечеловеческого интеллекта, типа пресловутой SkyNet, а о беспрецедентных возможностях тоталитарного контроля малыми группами держателей технологий, которые неподотчётны никому, но имеющие огромное, а часто и полностью определяющее влияние на жизнь огромного количества людей.
Не следует беспечно обольщаться теми возможностями, которые дают технологии. Без соответствующих социальных изменений, развития морали человеческого общества, все это несомненно закончится чудовищным тоталитарным электронным концлагерем. Отдельные звоночки мы слышим уже сейчас. Несомненно, что при текущих трендах, скоро это станет оглушающим набатом и закончится катастрофическими событиями. Извините за алармизм, но у меня нет никаких сомнений в этом.
К сожалению, видно, что собственных сдерживающих мотивов и понимания степени отвественности перед людьми, разработчики глобальных электронных сервисов не имеют или имеют на самом примитивном уровне. Нет сомнения, что в итоге из рук наивных начитанных идеалистов все эти инструменты контроля (а по факту — управления) имеют высочайшую вероятность попадания в руки циничных дельцов или психопатов, не обременённых вообще никакими моральными ограничениями. Этот процесс мы видим уже сейчас.
Несмотря на внешне алармистский характер заявления Верховного комиссара ООН, приходится признать что она абсолютно права. Развитие технологий диктует и развитие социальных систем и систем контроля технологий, в которых права человека должны являться фундаментальным, незыблемым и гарантированным на технологическом уровне условием!
19 сентября 2021 г.
