Apple elimina apps que generan desnudos con IA de la App Store
5 (100%) 1 voto

La IA sigue tomando la industria tecnológica e integrándose en prácticamente cada aspecto de esta. Dicho esto, también se requiere un uso responsable de esta. Al ser un tema que parece haber explotado “de repente”, las regulaciones al respecto aún son bastante limitadas. Por lo tanto, es responsabilidad de las plataformas proveedoras de apps el actuar sobre apps que no cumplan con ciertas condiciones.

Este está siendo el caso con Apple y apps impulsadas por inteligencia artificial que ofrecían una función de “desnudar” a otras personas. Al parecer, en la App Store se colaron este tipo de aplicaciones etiquetandose como “generadores de arte”. Sin embargo, estas se promocionaban en sus cuentas de redes sociales (e incluso en sitios para adultos) como capaces de “desnudar a cualquier chica de forma gratuita”.

Apps que generan desnudos mediante IA eliminadas por Apple de la App Store

Ahora, según se informa, Apple eliminó tres aplicaciones de la App Store que usaban IA para generar este tipo de desnudos. Estas apps funcionan como otros editores impulsados por IA. Es decir, la zona en cuestión será generada automáticamente. Los resultados pueden ser lo suficientemente creíbles como para ser potencialmente problemáticos. Por ejemplo, podrían llevar a casos de acoso o chantaje.

web-block

apple-elimina-apps-desnudos-ia-app-store

Anuncios de estas apps

Lo sorprendente es que estas apps eliminadas estuvieron disponibles desde el 2022. Sin embargo, es probable que la función de “desnudar” llegase recientemente. Antes, se habían limitado a ser apps para generar imágenes por IA como cualquier otra.

El informe también sugiere que a estas aplicaciones inicialmente se les permitió permanecer en la App Store si eliminaban sus anuncios de sitios para adultos. Sin embargo, estos siguieron, así que Apple las eliminó. Cabe destacar que Google también está haciendo algo similar en Play Store. Incluso, una de las apps eliminadas ahí es una de las que eliminó Apple.

Aun con todo lo segura y vigilada que es la App Store, es preocupante cómo explotar algunas lagunas pueden llevar a mantener este tipo de aplicaciones en la tienda. Apple solo actuó una vez se reportó la existencia de estas recientemente. Si eso no hubiese ocurrido, es posible que aún estuviesen presentes en la tienda.

Este incidente llega en un momento delicado para Apple. La WWDC 2024 está a la vuelta de la esquina. Se espera que la compañía haga importantes anuncios de IA para iOS 18 y Siri. La empresa ha estado construyendo activamente una reputación de desarrollo responsable de la IA. Incluso llegn a otorgar “licencias éticas” para los datos de entrenamiento. Este incidente podría potencialmente empañar su imagen cuidadosamente cultivada.

Fuente


web-block