OpenAI reveló que el problema de ChatGPT se debió a una optimización de la experiencia de usuario que generó respuestas sin sentido. El modelo eligió números ligeramente erróneos, lo que produjo secuencias de palabras incoherentes. Tras identificar la causa, se aplicaron correcciones y el problema se resolvió. Este incidente destaca los problemas conocidos de los modelos de IA generativa y la necesidad de abordar sus limitaciones. El estudio de Timnit Gebru advirtió sobre los peligros de los ‘loros estocásticos’ y cómo los resultados generados por estos modelos pueden ser erróneos. Es crucial tener en cuenta estas limitaciones al aplicar la IA en áreas críticas como el sistema judicial o los procesos de recursos humanos.
Imagen: Sanket Mishra
