Apple bloquea una app que incluye ChatGPT por temor al contenido que pueda generar
Apple ha bloqueado la actualización de la aplicación de correo electrónico BlueMail con herramientas lingüísticas basadas en inteligencia artificial por temor a que pueda generar contenido inapropiado para los niños, según las comunicaciones que Apple ha enviado al fabricante de la aplicación.
La nueva función de inteligencia artificial de BlueMail utiliza el último chatbot ChatGPT de OpenAI para ayudar a automatizar la redacción de correos electrónicos utilizando el contenido de correos anteriores y eventos del calendario.
La disputa pone de manifiesto la preocupación generalizada sobre si las herramientas de inteligencia artificial para generar lenguaje, como ChatGPT, están preparadas para un uso generalizado.
ChatGPT permite a los usuarios conversar con una IA de forma aparentemente humana y es capaz de redactar textos largos avanzados sobre diversos temas.
«Su aplicación incluye contenido generado por inteligencia artificial, pero no parece incluir filtrado de contenido en este momento», dijo el equipo de revisión de aplicaciones de Apple la semana pasada en un mensaje al desarrollador.
El equipo de revisión de aplicaciones de Apple dijo que, dado que la aplicación podría producir contenidos no apropiados para todos los públicos, BlueMail debería aumentar su restricción de edad a 17 años o más, o incluir el filtrado de contenidos, según muestran los documentos.
Actualmente, la restricción de la aplicación está fijada para usuarios de 4 años o más. La restricción de edad de Apple para mayores de 17 años es para categorías de aplicaciones que pueden incluir desde lenguaje ofensivo hasta contenido sexual y referencias a las drogas.
La llamada IA generativa se ha convertido en una de las tecnologías en desarrollo más vigiladas en décadas, sobre todo gracias a ChatGPT, un chatbot creado por OpenAI.
La tecnología no ha tardado en generar polémica. Tras el lanzamiento del motor de búsqueda Bing de Microsoft con ChatGPT, los primeros usuarios empezaron a preocuparse por las respuestas generadas por el chatbot, que incluían información incorrecta y respuestas aparentemente con mal tono. Microsoft, que ha invertido miles de millones en OpenAI, defendió la actualización de Bing como un trabajo en curso.
