Американец загрузил в облако фотографию гениталий своего сына, чтобы получить удалённую консультацию у врача. Google посчитал снимок детской порнографией и заблокировал аккаунт родителя, а также поажловался правозащитникам. На мужчину завели расследование. Об этом сообщает The New York Times.

По данным издания, история произошла в феврале 2021 года, когда врачи не могли принимать очно из-за коронавируса. Отец заметил воспаление в области гениталий сына и по просьбе медсестры прислал фотографии для предварительного осмотра перед видеоконсультацией. Через два дня после того, как были сделаны снимки, мужчина получил уведомление о блокировке своей учётной записи Google на том основании, что в ней был обнаружен контент, который нарушает правила пользования сервисами компании и закон.

Компания постоянно сканирует загружаемые пользователями фотографии на предмет «контента с изображением несовершеннолетних в сексуальном контексте» (child sexual abuse material, CSAM) при помощи искусственного интеллекта. При необходимости Google оповещает Национальный центр поиска пропавших и эксплуатируемых детей (National Center for Missing and Exploited Children, NCMEC). Тот, в свою очередь, может обратиться в правоохранительные органы США.

В итоге родитель лишился доступа к своей почте, контактам, фотографиям и телефонному номеру, так как пользовался фирменным мобильным сервисом Google Fi. В декабре прошлого года полиция начала расследование дела и оправдала американца, но даже несмотря на оправдательный приговор компания отказывается отдавать аккаунт пользователю.