馃攼 驴C贸mo elegir una VPN? Claves para proteger tu privacidad en Internet [ Saber m谩s ]
Un ingeniero en Inteligencia Artificial de Microsoft, Shane Jones, ha hablado con CNBC sobre sus descubrimientos mientras buscaba vulnerabilidades en Copilot Designer, el generador de im谩genes de IA que Microsoft lanz贸 en marzo de 2023, basado en la tecnolog铆a de OpenAI.
Jones explic贸 que, en sus pruebas, el servicio de IA hab铆a mostrado monstruos al solicitar im谩genes relacionadas con los derechos al aborto, adolescentes con rifles de asalto, im谩genes sexualizadas de mujeres en escenas violentas y consumo de alcohol y drogas por parte de menores.
Todas estas escenas todav铆a pueden ser creadas utilizando la herramienta Copilot, que originalmente se llamaba Bing Image Creator.
A pesar de sus preocupaciones, Microsoft se mostr贸 reticente a retirar el producto del mercado, lo que llev贸 a Jones a informar internamente sobre sus hallazgos en diciembre. Jones se dirigi贸 a OpenAI, pero al no recibir respuesta, public贸 una carta abierta en LinkedIn pidiendo a la junta directiva de la startup que retirara DALL-E 3 (la 煤ltima versi贸n del modelo de IA) para una investigaci贸n.
En enero, escribi贸 una carta a los senadores de EE. UU. sobre el asunto y se reuni贸 con personal del Comit茅 de Comercio, Ciencia y Transporte del Senado. Ahora, ha elevado a煤n m谩s sus preocupaciones enviando cartas al presidente de la Comisi贸n Federal de Comercio, Lina Khan, y a la junta directiva de Microsoft.
A pesar de los esfuerzos de Jones, Microsoft insiste en mantener Copilot Designer en el mercado, generando preocupaciones sobre la responsabilidad de la IA.
Jones ha solicitado que se realice una investigaci贸n independiente sobre los incidentes en Microsoft y ha instado a la compa帽铆a a agregar advertencias al producto y cambiar la calificaci贸n en la tienda de aplicaciones de Android para indicar que solo es apto para audiencias maduras.
La controversia en torno a Copilot Designer se produce despu茅s de que Google suspendiera temporalmente su generador de im谩genes de IA el mes pasado debido a quejas de usuarios sobre fotos inexactas y respuestas cuestionables.