Политики обычно являются несанкционированными объектами глубоких подделок, но мэр Нью-Йорка Эрик Адамс использует эту технологию, работающую на основе искусственного интеллекта, чтобы донести информацию до жителей своего города.
Стремясь охватить более широкую аудиторию, Адамс использовал искусственный интеллект для создания аудиозаписей собственной речи на разных языках - от идиша до мандарина. Затем это аудио используется для автоматических звонков жителям города, чтобы сообщить им о таких мероприятиях, как ярмарки вакансий и концерты.
Практичность этого шага очевидна, но он затрагивает и некоторые этические вопросы.
Люди постоянно останавливают меня на улице и говорят: "Я не знал, что вы говорите на мандарине, понимаете?". Мы используем робозвонки на разных языках, чтобы напрямую обратиться к разнообразию жителей Нью-Йорка", - говорит Адамс.
Проблема в том, что Адамс не говорит на этих языках, а робозвонки не информируют получателя о том, что голос, который он слышит, сгенерирован искусственным интеллектом. Вводит ли Адамс в заблуждение свой электорат или действует находчиво и эффективно?
Исполнительный директор проекта по надзору за технологиями наблюдения Альберт Фокс Кан (Albert Fox Cahn) не является поклонником использования мэром искусственного интеллекта.
"Это глубоко неэтично, особенно за счет налогоплательщиков. Использование искусственного интеллекта для убеждения жителей Нью-Йорка в том, что он говорит на языках, на которых не говорит, - это глубокий оруэлловский подход. Да, нам нужны объявления на всех родных языках ньюйоркцев, но глубокие подделки - это просто жуткий тщеславный проект", - сказал Кан.
Немного жутковато? Городские власти выложили один из испанских робозвонков на YouTube, так что судите сами.
Адамс считает, что цель оправдывает средства, но признает: "Мы должны быть обеспокоены злоупотреблениями, но мы хотим, чтобы они использовались правильно".
Есть и политико-этические вопросы, которые поднимает этот шаг. Может ли робозвонок Адамса заставить испаноговорящего человека с большей вероятностью проголосовать за него, если он считает, что мэр говорит на его языке?
Адамс упомянул о фальшивых робозвонках во время пресс-конференции, посвященной новому городскому План действий в области искусственного интеллекта.
В плане действий указаны сроки реализации проекта и стремление к безопасному использованию искусственного интеллекта для более эффективного обслуживания 8 миллионов жителей города.
"Я горжусь тем, что представляю план, который обеспечит критический баланс в глобальной дискуссии об искусственном интеллекте - план, который позволит городским агентствам внедрять технологии, способные улучшить жизнь людей, и одновременно защищать от тех, которые могут нанести вред", - сказал Адамс.
Один из последних примеров использования городом искусственного интеллекта - чатбот MyCity, который отвечает на вопросы, связанные с регистрацией бизнеса и нормативными актами.
Дальновидный подход Адамса к созданию искусственного интеллекта можно похвалить, хотя и с некоторыми сомнительными инициативами вроде поддельных робозвонков.
Удваивая свои глубокие подделки, Адамс сказал: "Правильно ли это с этической точки зрения или нет? У меня есть одно дело, я должен управлять городом, и я должен уметь говорить с людьми на понятных им языках... для всех, все, что я могу сказать, это ni hao".
