Google запускает новый API машинного обучения для поиска изображений сексуального насилия над детьми в Интернете

Технологический гигант Google еще раз подтвердил свое обязательство бороться со злоупотреблениями в Интернете и, особенно, с распространением изображений сексуального насилия над детьми в Интернете, запустив новый инструмент машинного обучения. Этот новый API, основанный на передовом искусственном интеллекте, облегчит очень сложную задачу ручных рецензентов и предоставляется бесплатно поставщикам услуг, неправительственным организациям, технологическим компаниям и другим учреждениям, участвующим в борьбе.

Машинное обучение против сексуального насилия над детьми

В публикации, опубликованной всего несколько дней назад и подписанной Николой Тодоровичем, техническим директором Google, и Абхи Чаудхури, менеджером по продуктам Google, компания почти два десятилетия подтверждает свое обязательство бороться с распространением изображений. сексуального насилия над детьми, «одно из худших из возможных злоупотреблений».

С этой целью Google запустил новый API машинного обучения, который предоставляется совершенно бесплатно по явному запросу организаций, участвующих в этой борьбе. При поддержке новых достижений в области усовершенствованного искусственного интеллекта этот инструмент значительно улучшит обнаружение изображений сексуального насилия над несовершеннолетними в Интернете, поскольку он не только ускоряет обнаружение уже известного контента, но также позволяет обнаруживать «контент, который не является ранее был подтвержден как CSAM ».

Еще одно из величайших достижений этого нового API - это то, что он позволяет « помогать рецензентам сортировать множество изображений, расставляя приоритеты для наиболее вероятного контента CSAM для рецензирования». Можете ли вы представить, как это должно влиять на работу людей день за днем, визуализируя и проверяя этот тип изображений? Однако, несмотря на эти огромные усилия, сама компания в конце своей публикации признает, что « одни технологии не являются панацеей для решения этой социальной проблемы», поэтому, к сожалению, вмешательство человека по-прежнему будет необходимо для сокращения этот тип насилия.

Ниже я полностью перевел записку, опубликованную об этом Google:

Те организации, которые заинтересованы в использовании службы Google Content Safety API и тем самым помогают в борьбе с распространением изображений сексуального насилия над несовершеннолетними в сети, могут запросить их бесплатное участие в компании, заполнив эту форму.