Техническая фирма изучает использование алгоритмов для модерации в WhatsApp

Фейсбук рассматривает возможность использования алгоритмов искусственного интеллекта на устройстве для сканирования и модерирования контента в своем сервисе обмена сообщениями WhatsApp для обеспечения своей приемлемой речевой политики.
Если это будет реализовано, само приложение будет автоматически сканировать сообщения до того, как они будут зашифрованы и отправлены.
Эксперты предупреждают, однако, что для такой настройки потребуется WhatsApp для передачи запрещенных сообщений разработчикам, чтобы улучшить обучение AI.
Кроме того, были высказаны опасения по поводу того, что такое развитие событий может проложить путь правительствам к тому, чтобы заставить фирмы социальных сетей шпионить за сообщениями пользователей.
Фейсбук объявил о своих планах перенести модерацию контента с центров обработки данных, укомплектованных персоналом, на системы с искусственным интеллектом на устройстве в презентации на ежегодной конференции разработчиков F8 1 мая 2019 года.
Предполагается, что предложенная концепция предусматривает модерацию содержимого, выполняемую для пользовательских сообщений непосредственно в WhatsApp, до их шифрования, причем сами алгоритмы фильтрации регулярно обновляются из центрального источника.
Таким образом, Фейсбук сможет запретить пользователям обмениваться контентом, который нарушает приемлемые речевые принципы фирмы, якобы без ущерба для применения сквозного шифрования в службе обмена сообщениями.
Однако эксперты по безопасности предупреждают, что переход к модерации содержимого в приложении равносилен созданию бэкдора внутри устройства.

(Фото: iinetwork.net)

По мнению Forbes, постоянная разработка и обучение таким алгоритмам модерирования контента потребует от приложения передачи образцов запрещенных, незашифрованных сообщений обратно в Фейсбук для анализа.
Фейсбук объявляет о своих планах, посвященных обработке данных, предоставлению персонализированных данных, системам с искусственным интеллектом на презентациях на ежегодных конференциях разработчиков F8 1 мая 2019 года.
Предполагается, что в WhatsApp будут автоматически обновляться данные, которые автоматически обновляются из центрального источника.
Таким образом, Фейсбук может запретить пользователям доступ к контрагенту, который нарушает приемлемые речевые принципы.
В соответствии с принципами безопасности, в устройстве должно быть установлено внутреннее устройство.
По мнению Forbes, постоянная разработка и обучение таким образом алгоритму модернизированного контента требуются приложения для передачи запрещенных, незашифрованных сообщений обратно в Фейсбук для анализа.
Хотя производители телефонов и операционных систем могут отказаться от предоставления таких функций, правительства могут сделать их обязательными.
Это, утверждает корреспондент Forbes Калев Летару, «эффективно [положит конец] эре зашифрованных сообщений».
По словам Forbes, родительская компания WhatsApp Facebook не оспаривает, что она намеревается использовать алгоритмы для смягчения сквозных зашифрованных сообщений на таких платформах, как WhatsApp.
Однако, вопреки этому сообщению, вице-президент WhatsApp Уилл Кэткарт сказал Forbes, что «они этого не сделали, у них нет никаких планов сделать это, и если бы мы когда-либо это сделали, было бы совершенно очевидно, что мы это сделали».
«Мы понимаем, что этот подход вызывает серьезные опасения, поэтому мы против этого».
Неясно, точно ли и когда обновленная версия WhatsApp, содержащая систему модерирования контента, может быть развернута на устройствах пользователей.