Apple vieta app di nudificazione e contenuti offensivi generati da AI

Logo Apple con sfondo tecnologico

Scritto da

in

In Breve

Quali sono le nuove linee guida di Apple?
Apple ha vietato le app di nudificazione e i contenuti offensivi generati da AI.
Cosa devono fare le app con contenuti generati dagli utenti?
Devono filtrare materiale offensivo e fornire strumenti per segnalare contenuti.
Qual è l'obiettivo di queste nuove norme?
Garantire la sicurezza degli utenti e prevenire abusi nelle app.

Apple ha recentemente aggiornato le sue linee guida per gli sviluppatori, introducendo un divieto categorico per le applicazioni che utilizzano l’intelligenza artificiale per generare contenuti offensivi. Tra le novità più rilevanti, vi è il divieto per le app che si presentano come normali durante il processo di revisione, ma che in realtà offrono funzionalità di nudificazione o simili.

Le nuove norme mirano a rafforzare i requisiti per le app che generano contenuti da parte degli utenti. In particolare, tutte le applicazioni dovranno implementare filtri per il materiale offensivo, fornire strumenti per segnalare contenuti problematici e consentire agli utenti di bloccare account abusivi. Inoltre, sono severamente vietate funzionalità nascoste o non documentate, comprese quelle che mascherano il proprio scopo durante la revisione e rivelano in seguito capacità dannose, una pratica nota come bait-and-switch.

Apple ha chiarito che rimuoverà le app che aggiungono funzioni non presenti nella versione sottoposta alla revisione. Questo aggiornamento è parte di un impegno più ampio dell’azienda per garantire la sicurezza degli utenti e prevenire abusi attraverso le sue piattaforme.

Inoltre, la sezione legale delle linee guida è stata aggiornata per rafforzare il divieto di app che promuovono il traffico di esseri umani e lo sfruttamento di minori. Secondo Apple, nel corso dell’anno precedente, il processo di revisione ha portato al blocco di oltre 150.000 app e alla rimozione di 193.000 account sviluppatori per frode e abusi.

Queste misure arrivano dopo che, a luglio, l’autorità di San Francisco aveva ordinato a Apple e Google di rimuovere le app di nudificazione, sostenendo che le aziende avevano tratto profitto dalle commissioni degli store. Un rapporto di aprile ha inoltre evidenziato la presenza di diverse app di questo tipo su entrambi gli store, alcune delle quali erano state valutate come adatte ai minori.

Con queste nuove linee guida, Apple non solo si impegna a garantire un ambiente più sicuro per gli utenti, ma anche a mantenere la propria reputazione come leader nel settore della tecnologia responsabile.

Commenti

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *