Póngase al día sobre el mundo de la IA en rápida evolución con nuestro resumen de los desarrollos de la semana.
Una de las ventajas de la tecnología de IA generativa son sus capacidades de lenguaje natural. Eso significa que no necesita ser programador, ingeniero o científico para «hablar» con un chatbot de IA de generación y solicitarle que cree texto, ilustraciones y otras imágenes, videos, audio, fotografías e incluso código de programación en segundos.
Pero la «magia» aquí tiene un lado oscuro, que incluye prejuicios, alucinaciones y otros problemas con el funcionamiento de las herramientas mismas. También existe un problema creciente con las personas que recurren a estos potentes y fáciles de usar motores de inteligencia artificial de generación para crear fotos falsas o videos falsos con miras a engañar, confundir o simplemente mentir rotundamente a la audiencia prevista.
Esta semana tenemos ejemplos de ambos.
Primero: apenas una semana después de que el generador de texto a imagen Gemini de Google tuviera que presionar el botón de pausa porque estaba entregando imágenes ofensivas, vergonzosas y sesgadas, el CEO de Google, Sundar Pichai, envió la herramienta nuevamente a prueba después de decir que los resultados eran » completamente inaceptables». « – Microsoft ahora está teniendo en cuenta problemas en su generador de IA Copilot Designer. Ese ajuste de cuentas se produce después de que un ingeniero de la empresa escribiera a la Comisión Federal de Comercio expresando su preocupación por las imágenes perturbadoras y violentas creadas por la herramienta.
El ingeniero de Microsoft Shane Jones dijo que estaba «probando activamente el producto en busca de vulnerabilidades, una práctica conocida como equipo rojo», informó CNBC. El producto, originalmente llamado Bing Image Creator, funciona con la tecnología OpenAI. (OpenAI es el creador de ChatGPT y del conversor de texto a imagen Dall-E.) Jones dijo que el servicio de IA produjo imágenes de «demonios y monstruos junto con terminología relacionada con el derecho al aborto, adolescentes con rifles de asalto, imágenes sexualizadas de mujeres en cuadros violentos». y consumo de alcohol y drogas entre menores de edad».
Todas esas imágenes, añadió CNBC después de recrear las pruebas de Jones, van «muy en contra de los principios de IA responsable de Microsoft, frecuentemente citados «. Jones dijo que Microsoft ignoró sus hallazgos a pesar de los repetidos esfuerzos para que la empresa abordara los problemas.
«Internamente, la empresa es muy consciente de los problemas sistémicos en los que el producto crea imágenes dañinas que podrían ser ofensivas e inapropiadas para los consumidores», afirma Jones en la carta de la FTC, que también envió a la junta directiva de Microsoft y publicó en LinkedIn , según The Guardian. .
Microsoft dijo a CNBC y The Guardian que está «comprometido a abordar todas y cada una de las inquietudes que tengan los empleados de acuerdo con las políticas de nuestra empresa y aprecia los esfuerzos de los empleados para estudiar y probar nuestra última tecnología para mejorar aún más su seguridad».
El segundo ejemplo tiene que ver con personas que crean imágenes falsas con IA. La entrada de esta semana tiene que ver con los partidarios del expresidente Donald Trump, quienes crearon fotografías que muestran al ahora candidato presidencial rodeado de votantes negros falsos como parte de campañas de desinformación para «alentar a los afroamericanos a votar por los republicanos», informó la BBC después de investigar el Fuentes de las imágenes fabricadas.
Uno de los creadores de las fotografías falsas, un locutor de radio de Florida llamado Mark Kaye, le dijo a la BBC que «no está ahí afuera tomando fotografías de lo que realmente está sucediendo» y que si los votantes estadounidenses se dejan llevar a pensar que deberían votar por Trump basándose en en fotografías que lo muestran con supuestos votantes negros, depende de ellos si se dejan engañar.
«Si alguien vota de una forma u otra por una foto que ve en una página de Facebook, es un problema de esa persona, no de la publicación en sí», dijo Kaye a la BBC.
Las imágenes han comenzado a aparecer mientras Trump «busca ganarse a los votantes negros que, según las encuestas, siguen siendo leales al presidente Joe Biden», informó Los Angeles Times. «Las imágenes fabricadas… proporcionan evidencia adicional para respaldar las advertencias de que el uso de imágenes generadas por IA «Sólo aumentará a medida que se acerquen las elecciones generales de noviembre».
Fuente: cnet.com
