Компания Google из-за пандемии COVID-19 перевела многих сотрудников YouTube в режим удаленной работы. Проверка загружаемого контента на соответствие правилам видеохостинга была доверена искусственному интеллекту.
Во втором квартале 2020 года было удалено рекордное в истории сервиса количество «сомнительных» видео, в том числе совершенно безобидных – 11401696. В прошлом году за тот же период времени YouTube удалил 8988500 видео.
«Принимая во внимание значительное сокращение возможностей проверки людьми из-за COVID-19, мы были вынуждены сделать выбор между потенциально недостаточным или потенциально чрезмерным отслеживанием. Поскольку ответственность является нашим главным приоритетом, мы выбрали второе и использование технологий, чтобы помочь с некоторыми видами работы, обычно выполняемой людьми», — говорится на сайте компании.
В Google отметили, что это было ожидаемо и объяснили, почему было принято решение об автоматизации процесса. Учитывая, что модераторы обычно работают в офисах под наблюдением, разрешение на выполнение такой работы вне контролируемой среды могло привести к непреднамеренному разглашению личных данных пользователей.
Понимая, что удаление видео, которые не нарушают правила YouTube, приведет к увеличению количества апелляций со стороны создателей контента, Google расширила штат сотрудников, занимающихся рассмотрением апелляций.
Количество жалоб на ошибочное удаление роликов выросло с 166000 в первом квартале текущего года до более чем 325000 во втором. Отмечается, что объем видеороликов, восстановленных по жалобам, вырос с 25% в первом квартале до 50% во втором квартале 2020 года.
