«Из голоса банка — в п0рнo»: Алена Андронова пожаловалась на «Тинькофф» за неправомерное использование ее голоса (+ комментарий банка)

[SerGEAnt 22 880]

Виноваты модные нынче нейросети, а все началось с большого заказа банка «Тинькофф».

---

Актриса Алена Андронова, известная вам в том числе по локализациям игр и дневникам GamesVoice, выпустила большой материал о том, как ее голос неправомерно используется в самых разных ситуациях.

Виноваты модные нынче нейросети, а все началось с большого заказа банка «Тинькофф».

Цитата

Привет. Меня зовут Алена Андронова, я актриса озвучивания и дубляжа. Однажды я согласилась на заказ озвучки большого массива текста для внутренних нужд банка Тинь кофф, а в итоге - я услышала себя в порно и лишилась части работы. Я подала иск в суд и хочу поделиться с вами этой историей, а также расскажу вам о том, что сейчас происходит с актерами озвучивания из-за развития нейросетей, как у нас в прямом смысле слова воруют голоса и обманывают нас в договорах. И это проблема не только нашей индустрии - сейчас легко подделать любую личность, украсть голос, подставить кого угодно — и расскажу, что мы предлагаем для того, чтобы защитить себя.

Итак, всё началось для меня аж в 2019 году. В профессиональном сообществе я увидела объявление, что ищется женский голос на большой объем работы.

При обсуждении таких заказов обычно сразу назначают стоимость за объем. Задачу толком не объяснили, но такое часто бывало, особенно из-за НДА. Я отправила демо, потом прошла большой кастинг. И только после согласования я узнала, что это за компания, для которой планируется заказ, и мне прислали договор на утверждение. На первый взгляд всё было как обычно, стандартные формулировки об исполнении и обязательстве записать объем текстов. Однако уже только на самой записи выяснилось, что этj объем текстов для создания нейросети.

На первой записи присутствовали представители банка, и когда я начала их расспрашивать, мне было сказано, что мой голос записывается только и исключительно для внутренних задач банка, он поможет обучить Олега и заменит собой колл-центр, на этом всё. Я тогда расстроилась, что не знала всей информации о задаче и не могла адекватно оценить проект, но раз уж договоренность была достигнута, а студия арендована, решила поверить на слово и сделать честно свою работу.

С тех пор прошло несколько лет, и год назад мой друг задал мне вопрос, озвучивала ли я порно-рекламу. Я ответила - нет, наверняка ты перепутал. Но он продолжал утверждать, что это был мой голос. Вскоре и другие знакомые и коллеги стали об этом говорить и присылать мне записи экранов, на которых при включении видео запускается откровенная порно-реклама, без какой-либо цензуры, которая озвучена синтезом моего голоса.

Я стала гуглить и обнаружила, что мой голос открыто доступен для любого синтеза на сайте банка и продается на многих сторонних площадках. Я начала искать юриста, а также пытаться связаться с юристами банка Т. Однако в моем договоре не было никаких контактов для связи, на отправленные письма - физические, электронные, - юристы не отвечали, а сотрудники банка, к которым я обращалась за помощью и контактами юридического отдела, отказывались мне их давать. А все это время мой голос продолжали синтезировать, им озвучивались эротические чаты, подписки и донаты на трансляциях, коммерческая реклама. Даже студии, с которыми я ранее работала как актриса, стали продавать мой синтез на телеканалы и стриминговые сервисы (как пример, документальный фильм «Космос: Новые горизонты»).

Почему я не смогла себя обезопасить? Напоминаю, это был 2019й год. Никакой пандемии, только-только внедряются первые голосовые помощники, Алиса и Олег, никто нигде не может синтезировать их голоса и о массовом синтезе вообще речи пока не идёт. К тому же, сотрудниками мне было обещано, что мой голос останется только для внутренних задач банка и я надеялась на честность со стороны такой крупной корпорации. Зря

А что же договор? В нем нет ни слова “синтез”, ни упоминания нейросетей, ни каких-либо подробностей об использовании записей. Это стандартный договор о том, что я создаю исполнение, передаю его и разрешаю его обработку. В то время это был обычный типовой договор, мы подписываем такие несколько раз в месяц. Согласование всегда было на совести студий и посредников. Конечно же, я внимательно читала договор, но в данном случае согласование шло фактически “вслепую”, так как о главном — о том, что мы пишем синтез, - в нем ни слова нет.

В дальнейшем ко мне обращались за дозаписью материала, и когда я спрашивала, для чего и куда он пойдет, мне не отвечали и переставали выходить на связь. Я сама делала запрос с просьбой банку подтвердить мне означенное соглашение ещё до публикации синтезов и осталась без ответа.

И я не одна пострадала в этой ситуации. Через год мой коллега, Павел Дорофеев, записывал для банка также и мужской голос, он уже знал от меня чуть больше о работе, задавал те же вопросы, что и я, уточнял, не пойдет ли данный материал куда-либо ещё.

Павлу было сказано, что синтез совершенно точно нужен для внутренних задач банка, а пункт о передаче голоса третьим лицам нужен лишь для того, чтобы передать материал для технического синтеза их дочерней компании.

В итоге голосом Павла сейчас озвучиваются различные видео в интернете, в том числе и ролики, направленные на осуждение действий российских войск и специальной военной операции. Мы совершенно не можем ни контролировать, ни отвечать за то, в чем участвует наш голос. Мы не можем отвечать за то, в чем люди нас услышат. А многие не способны уже отличить, где говорит синтез, а где - живой человек. А ещё плохая работа синтезов подрывает также и наш авторитет как хороших дикторов и актеров.

Почти год я потратила на попытки связаться с банком через всех, кого могла, в итоге получила ответ, что я не имею права ни на какие претензии, однако банк признает свою вину и готов выплатить мне совершенно смешную компенсацию, примерно в стоимость месяца-двух моей работы, при условии, что я полностью откажусь от всех своих претензий. Этот вариант меня не устраивает. Поэтому я подала иск и буду судиться с банком Тинькофф. Однако за этот год я узнала о синтезах и их развитии очень многое, а также о том, что сейчас происходит в связи с этим в законодательстве в России и в мире.

Я нашла в открытом доступе много голосов своих коллег, кто-то из них действительно записывал синтезы, однако почти во всех случаях условия изначально обговаривались другие или речь о синтезах не шла. Почти все проекты были записаны давно, до массового распространения нейросетей. Я общалась с разными юристами в поисках того, кто возьмется за моё дело, и узнала, что почти все известные вам голоса, записывавшие для кого-то синтез или голосовых помощников, были так или иначе обмануты и прибегали к услугам юристов. Я видела чужие договоры с другими компаниями, в которых, как и в моем, нет никаких упоминаний о синтезе и нейросетях. Я находила и голоса, которые не записывали синтезы, однако все равно появились в открытом доступе, а это означает, что кто-то, возможно, кто-то из студий, с которыми мы работаем, использовали нашу с ними работу для создания таких нейросетей. В основном эти голоса залиты на сайты, зарегистрированные на уже недействующие ИП, вроде такого и похожих аналогов.

Апогеем же всего этого являются различные телеграм-боты, вроде Silero или SteosVoice, которые вскрыли файлы из известных компьютерных игр, в том числе таких компаний, как Blizzard, CD Project Red, Riot Games и других, и синтезировали голоса актеров без их ведома и без разрешения правообладателей, и ещё и продают эти голоса. Но при этом говорят, что якобы на использование голосов получили разрешение.

Многие слышали о художниках, о том, что нейросети обучали на их работах без их ведома. Но если мы говорим о голосах - голос синтезируется не из какой-то общей массы, используется голос одного конкретного человека: его собственный тембр, его манера, его интонации, дикция. Это очень личное, это одна из вещей, в принципе составляющих часть личности человека.

Прямо сейчас список людей, которых несанкционированно синтезировали, огромный, входят в него и известные мэтры, и молодые актеры - есть там и Всеволод Кузнецов, и Ольга Плетнева, Михаил Тихонов, Татьяна Шитова, Ольга Зубкова, Юлия Горохова и многие другие. Совсем недавно вышел трейлер дополнения к игре киберпанк, озвученный полностью синтезами голосов из игры.

Удивительно то, что авторы этих ботов не только не постеснялись своровать голоса, но и стали писать актерам с предложением сделать синтез для их проекта под эгидой “защиты голосов от воровства”.

Не видите в этом никакого противоречия? Я напрямую задала вопрос создателям этих ботов, как так получилось, и вот что мне ответили.

Такую же риторику я слышала и от менеджеров банка Тин ькофф, когда говорила с ними, и от других людей, никак не заинтересованных. Правда ли это? Вот что говорит юрист Тамара Богданова, которая занимается вопросами права и сейчас много работает с темой синтезов речи:

Голос - это нематериальное благо, он принадлежит каждому человеку с рождения. Он является частью его личной биометрии, как отпечаток пальца или рисунок глаза. Банки в том числе используют распознавание по голосу в своей системе для подтверждения личности. Многие голоса мы легко идентифицируем. И когда актер или диктор подписывает договор о создании Исполнения, само собой разумеется, что он готов создавать результат, но заказчики считают, что имеют право создать синтез из личного слепка голоса и использовать его, как им вздумается, совершенно невзирая на урон, который они наносят человеку. Хотя в соответствии с подпунктом 4 пункта 1 статьи 1315 Гражданского кодекса Российской Федерации исполнителю принадлежит право на неприкосновенность исполнения, в том числе постановки, - право на защиту исполнения от всякого искажения, то есть от внесения изменений, приводящих к извращению смысла или к нарушению целостности восприятия исполнения, в его запись, в сообщение в эфир или по кабелю, при доведении исполнения до всеобщего сведения, а также при публичном исполнении постановки спектакля.

В итоге разные заказчики, студии или же вообще сторонние люди пытаются сослаться на то, что якобы раз актер дал право на переработку своего голоса, то с ним можно делать что угодно. Однако переработка всегда означала звукорежиссерскую обработку: чистку звука, наложение музыки и прочие действия, но никак не создание общедоступного клона своего голоса. А сейчас выходит, что, злоупотребляя своим правом, любая студия или заказчик могут стряхнуть пыль с договора 10-15-20летней давности на любую аудиокнигу или другой проект и создать из актера нейросеть. И это уже происходит! Есть история одного диктора, записавшего большой объем материалов для кафедры фонетики аж в начале 2000-х годов! И прямо сейчас он оказался синтезирован, естественно, без своего ведома.

Да и, как я говорила ранее, абсолютно любой человек может оказаться беззащитен. Создатели синтезов говорят о том, что сейчас технологии уже так продвинулись, что им нужен всего лишь небольшой слепок голоса человека, чтобы создать его копию. Буквально запись на пару минут.

В открытом доступе уже существуют сайты, обещающие сделать синтез по небольшому отрывку аудио. Представьте, что смогут делать мошенники, имея возможность в реальном времени имитировать вашу речь! Да и даже использовать уже доступные голоса - мой голос является голосом колл-центра банка, кто угодно сейчас может его синтезировать и позвонить вам от имени банка. Голос Всеволода Кузнецова является голосом Альфа-банка - а его голос для синтеза своровали из файлов видеоигр. Сейчас мы говорим не о роботизированном голосе, который можно определить - современные технологии записывают голос поверх речи, повторяя интонации и даже мелодию! Так, например, синтезируются песни из голосов разных исполнителей, например, в сети уже много записей с голосом Горшка из КиШа. Всего год-два, и синтезированный голос нельзя будет отличить от настоящего. И говоря о Горшке - как быть с вопросами этики? Уже создаются синтезы из голосов мертвых артистов и певцов - из наших коллег это, например, Владимир Вихров или Андрей Ярославцев. Насколько этично использовать их голоса по отношению, например, к их родственникам? Я считаю, что они должны как минимум давать свое согласие, а, в идеале, родственники должны получать отчисления, как это происходит с авторским правом.

И всё, о чем я говорю, происходит не только в России! Точно также воруются голоса из зарубежных игр - например, совсем недавно вышел эротический мод на Скайрим, озвученный синтезированными голосами из игры, это взволновало актеров. Дикторы, работавшие с Apple и их дочерними компаниями, были не в курсе, что их голоса используются для обучения ИИ. Прямо сейчас в Голливуде проходит забастовка актеров в том числе связанная с нейросетями - кинокомпании оживляют с помощью дипфейков мертвых актеров, а многие пытались прописать в контрактах сканирование актера с разовой оплатой и последующим вечным его использованием. Разве справедливо такое отношение к работникам от гигантов, воротящих миллионами? Тем не менее у нас же нет таких гильдий, и то, о чем я говорю, также касается единственного, что сейчас на нашей стороне - справедливости и честности.

Что же нам делать, как мы все - любой из нас, - можем защитить себя от нейросетевой подделки? И как актерам защититься от копирования их голоса и внешности? Современное законодательство не готово к такому развитию нейросетей, и мы с моим юристом, а также совместно с Союзом дикторов России, предлагаем внести ряд законодательных изменений. Мы создали петицию, в которой перечислены все предлагаемые мной правки, если вы будете с ними согласны - пожалуйста, перейдите по ссылке в описании и помогите нам собрать голоса!

ПЕТИЦИЯ О ЗАЩИТЕ ГОЛОСОВ ОТ МОШЕННИЧЕСТВА И СИНТЕЗА

Нам очень поможет любая помощь — голоса, просмотры, комментарии, лайки. Если вы согласны, пожалуйста, помогите нам донести наши предложения до органов власти. Нам нужна помощь любых СМИ и блогеров, чтобы не оставлять все происходящее безнаказанным. Любой из вас, кто когда-либо записывал любое видео в интернете или отправлял голосовые сообщения, может оказаться в ситуации, когда его голос и внешность будет подделаны мошенниками.

Всех дикторов я прошу внимательно проверять договоры, писать в случае наличия вопросов юристам и ни в коем случае не подписывать договоры на отчуждение своего голоса, особенно если работа ведется над большим объемом текста, а все обещания по его использованию даются только на словах.

Сейчас страшно выкладывать любой обширный материал в интернет, особенно учитывая специфику нашей работы. Сейчас у нас совершенно нет никакой защиты, и даже громкое имя, как в моем случае с банком Т инькофф, не является никакой гарантией.

Я очень надеюсь, что нам вместе удастся добиться справедливости. Напоследок я хочу подчеркнуть, что я ни в коем случае не призываю запретить нейросети, однако хотелось бы защитить всех - актеров, блогеров, политиков, журналистов, художников, простых людей - от воровства, обмана и мошенничества. Хотелось бы создать возможность бороться за себя в этом новом мире. И хотелось бы, чтобы большие корпорации относились к своим наемным работникам с уважением, не уничтожая их репутацию и годы работы одним заказом, как это произошло со мной и многими другими.

Комментарий представителя банка:

«Изложенная информация не соответствует действительности. Между Аленой Андроновой и АО «Тинькофф Банк» был заключен договор, в соответствии с которым Алена выполнила работы по озвучиванию текстов и передала исключительные права на них Банку в полном объеме, в том числе права на переработку, внесение любых изменений, сокращений, дополнений. При этом договор с Аленой прямо предусматривал ее согласие на использование и переработку записей третьими лицами.   Таким образом, Банк вправе использовать записи голоса Алены любыми способами, в том числе для обучения нейросетей. 

Синтезированные материалы на основе голосов дикторов используются в технологии Tinkoff VoiceKit, на базе которой пользователи сервиса могут создавать голосовых роботов и распознавать речь. Компании используют синтезированные голоса для автоматизации работы колл-центров, создания голосовых ассистентов и других бизнес-процессов. Однако, в 2022 году некоторые пользователи сервиса попытались использовать его недобросовестно в нарушение правил.  Выявив подобные случаи, Тинькофф сразу заблокировал таких пользователей. 

В связи с тем, что произошедшая ситуация вызвала негативную реакцию у диктора, мы предложили Алене Андроновой денежную компенсацию, т.к. рассчитывали на дальнейшее сотрудничество. Однако, Алена с предложенной суммой компенсации не согласилась».

[Phoeni-X 732]

Уповаю на технологии и нейросети в озвучке дополнения к Киберпанку. 

[Zurb@g@n 611]

28 минут назад, Phoeni-X сказал:

Уповаю на технологии и нейросети в озвучке дополнения к Киберпанку. 

Надеюсь на локализацию Starfield от Нейросетей.

Сейчас “Дикий Запад” в сфере использования нейросетей и прав. Поэтому неудивительно, что девушка попала со своим голосом.

[ERRmak 52]

Ну шо тут можно сказать? Прогресс, от него не спрятаться. Куча профессий умирала из-за развития технологий 

[longyder 164]

@Phoeni-X @Zurb@g@n , от общества, которое привыкло лишь потреблять, я другого мнения и не ожидал. А что, к примеру, если бы ваш голос и даже лицо неправомерно использовали бы в каком-нибудь deepfake и это активно бы распространялось в нете. Как бы вы, скажем, отреагировали на видео, где внезапно ВЫ совершаете какое-либо преступление, сами того не зная (а там и лицо, и голос ваш)? Поэтому защита голоса, лица и др. индивидуальностей каждого человека имеет место быть как никогда раньше. И Алёна правильно делает, что поднимает по этому поводу шум. Технологии технологиями, но они не должны действовать во вред людям.

Изменено 31 августа, 2023 пользователем longyder

[zzzombie89 256]

С одной стороны количество выиграных дел по трудовым спорам работников над работодателями первышает 80%, что внушает оптимизм, но с другой — огромные финансовые возможности и куча юристов на стороне банка. Мудаки, что тут ещё можно сказать. Петицию подписал, надеюсь получится добиться справедливости.

 

 

[Dusker 642]

Жалоба на использование голоса в порно переросла в то, что ее вытесняет из рынка синтез. Она подписала договор о том что дает согласие на обработку ее голоса и передачу третьим лицам. Что удивляться теперь? Я в сбермаркете сделал пару заказов, и теперь мне по кд звонят и пишут смс какие то уебки и предлагают кредиты, микрозаймы или ченить купить. То есть мой номер телефона слили(продали) вместе с базой третьим лицам, и у меня не спросили хочу я этого или нет. А она сама дала добро на это.

Если рассмотреть с моральной точки зрения. Мне вот постоянно говорят, что у меня приятный голос, возможно кто то даже тайно записывал и фапал на него. Но что поделать, ни с кем общаться теперь что ли, или идти плакать? В ее ситуации тоже нет драмы, не она же снимается в порно, а просто кто то использовал голос, ничего страшного нету. Она может даже гордиться, что ее голос посчитали привлекательным. И я думаю 99% людей  даже не обратит внимание чей это голос, и никогда не узнает хозяйку.

[Carunama 97]

Откуда она знает что это её голос,? мало ли похожих голосов в мире у людей, да нейросети могут спокойно заменить голос актера дубляжа, но это прогресс и его не остановить

Просто раньше актеры дубляжа бабки рубили по ляму а счас пусть ищут другую работу, в свое время когда изобрели паровые машины извозчики тоже говорили что лишатся работы, ни чего мир выдержал

[Zurb@g@n 611]

55 минут назад, longyder сказал:

@Phoeni-X @Zurb@g@n , от общества, которое привыкло лишь потреблять, я другого мнения и не ожидал. А что, к примеру, если бы ваш голос и даже лицо неправомерно использовали бы в каком-нибудь deepfake и это активно бы распространялось в нете. Как бы вы, скажем, отреагировали на видео, где внезапно ВЫ совершаете какое-либо преступление, сами того не зная (а там и лицо, и голос ваш)? Поэтому защита голоса, лица и др. индивидуальностей каждого человека имеет место быть как никогда раньше. И Алёна правильно делает, что поднимает по этому поводу шум. Технологии технологиями, но они не должны действовать во вред людям.

Ну, мне кажется ваш спич не к месту. В первом посте вообще не про девушку, а я в конце своего поста написал слова в её поддержку. Если вы не поняли. Она, безусловно, молодец что борется, но “Дикий запад” упомянул в том смысле, что инструменты есть, а регулирование и правила для них не написаны. Читайте беззаконие. 

Изменено 31 августа, 2023 пользователем Zurb@g@n

[Carunama 97]

4 минуты назад, Zurb@g@n сказал:

что инструменты есть, а регулирование и правила для них не написаны. Читайте беззаконие. 

Как ты собираешься это регулировать, есть например двойник Мадонны в молодости и он сделал фотки и прогнали через нейронку, тут приходят родственники Мадонны и требуют деньги??? и что чел должен убиться? так же с голосом это вообще будет не доказуемо так что пусть лучше переобуваться девчуля на что нибудь из айтишного

[DarkHunterRu 3 986]

Да-да еще десяток лет и большинству актеров дубляжа придется искать другую работу. Я весь этот пост не читал и понимаю желание заработать чуть больше, а в идеале и процент получать с каждого платного использования, но ИИ и синтезировать голос умеют, большинство патентов вызывает у меня лишь недоумение, давайте еще голоса патентовать, хах...осталось кому-то додуматься запатентовать воздух, чтобы совсем хорошо заработать.

[mc-smail 4 317]

Многие могут по злорадствовать тут - ой, да чего тут такого? Использовали голос? Она просто свою жопу прикрывает, боится работу потерять, бла бла бла. Ну то есть мышление людей, которые сейчас не чувствуют никакой опасности от таких технологий и думают, что в скором будущем будем получать много быстрых халявных качественных озвучек от нейросети и не надо никому донатить, и ждать по пол года - ееехуууу. 

Мышление которое заводит людей в тупик, не понимая куда этот неконтролируемый поток использования нейросети может привести. Не зря, сам Илон Маск хочет сейчас ограничить развитие нейросетей и ИИ, хотя казалось бы, зачем ему? Человек который делает машины на автопилоте, благодаря нейросетям и ИИ.

Одно дело когда эти нейросети используют для удобства и благ человечества, другое дело когда слишком продвинутые нейросети доберутся до мошенников, то никому весело от этого не будет. И в один прекрасный день вашей матери, бабушке, отцу, позвонит человек с вашим голосом, который невозможно будет отличить от вас, и потребует денег. И когда ваши родственники отправят последний взятый кредит мошенникам думая, что отправили вам, в итоге позвоните им вы, и узнаете что ваших родственников развели на деньги, благодаря нейросетям. 

Это сейчас всё выглядит классным, любопытным, круто - вау. Но нейросети никак не регулируются законом и никак контролируются, в плане использования и распространения, и этой технологией может овладеть каждый и использовать в своих корыстных целях, а чем дальше технология растёт, тем опаснее и сложнее отличима она будет от нас самих. Сейчас это коснулось актёров дубляжа, завтра технология вырастет ещё больше, и коснётся вас, когда вы запишите аудио сообщение или видео сообщение своим друзьям, родственникам, а потом это утечёт в руки мошенников, вам будет не до смеха. С начало это будет тупо голос, а потом и видео сообщение сделают с вашим лицом, чтобы это было правдоподобно, и будете бояться в очередной раз голосовуху слать или на видео себя снимать. Думайте не о сейчас, что происходит, а о том, как это будут использовать в будущем, когда технологии достигнут своего пика, а контролировать это никто не будет.

Изменено 31 августа, 2023 пользователем mc-smail

[Carunama 97]

Только что, DarkHunterRu сказал:

Да-да еще десяток лет

Через десять лет нейронка будет фильмы рисовать по промтам)))

[DarkHunterRu 3 986]

5 минут назад, mc-smail сказал:

никакой опасности от таких технологий

Опасность есть, кто же спорит, пользователям скоро будет сложно определить по видео где правда, а где нет. Я как бы разделяю, когда речь про заработать денег и когда стоит авторам и срок уголовный впаять за такие вещи, голоса и похожими бывают, даже сами авторы дубляжа умеют как бы другим голосам подражать уже давно, тоже мне. ИИ в этом плане ни хороший ни плохой, он просто есть и с этим стоит смириться. Это даже не оружие, это просто технология, которую можно использовать по разному, мало ли таких?  Очень много. Да та же ядерка и оружие и электростанции, аналогов которым нет, причем с самовоспроизводящимся ресурсом, относительно безопасные для природы, если за техникой безопасности следить.. ну и т.д.

Изменено 31 августа, 2023 пользователем DarkHunterRu

[tommycat91 642]

“надо было читать мелкий шрифт в договоре”