{"id":11131,"date":"2025-05-26T16:46:42","date_gmt":"2025-05-26T16:46:42","guid":{"rendered":"https:\/\/blogs.uninter.edu.mx\/ehli\/?p=11131"},"modified":"2025-05-26T16:46:45","modified_gmt":"2025-05-26T16:46:45","slug":"la-ia-aprende-de-nuestros-errores-pero-tambien-los-reconfigura","status":"publish","type":"post","link":"https:\/\/blogs.uninter.edu.mx\/ehli\/index.php\/2025\/05\/26\/la-ia-aprende-de-nuestros-errores-pero-tambien-los-reconfigura\/","title":{"rendered":"La IA aprende de nuestros errores, pero tambi\u00e9n los reconfigura"},"content":{"rendered":"\n
\"\"
Hacia futuro, la IA tendr\u00e1 un toque multiplataforma.\u00a9\u00a0iStockphoto<\/figcaption><\/figure>\n\n\n\n

<\/p>\n\n\n\n

Los modelos de inteligencia artificial generativa, como ChatGPT o Gemini aprenden en gran medida de los usuarios. Cada conversaci\u00f3n representa una fuente de informaci\u00f3n, pero tambi\u00e9n un posible vector de vulnerabilidad. En este ciclo de retroalimentaci\u00f3n, la inteligencia artificial aprende de los errores humanos y, en ese proceso, puede reconfigurar nuestra percepci\u00f3n de lo que est\u00e1 bien o mal. Desde 2022, la adopci\u00f3n masiva de chatbots conversacionales marca un antes y un despu\u00e9s en la relaci\u00f3n entre humanos y tecnolog\u00eda. Seg\u00fan un informe de Pew Research Center de 2024, el 58% de los adultos estadounidenses ha interactuado con un chatbot al menos una vez, y el 19% lo hace con regularidad. En esas interacciones, los usuarios no solo piden ayuda tambi\u00e9n corrigen.<\/p>\n\n\n\n

<\/p>\n\n\n\n

Esto es lo que se conoce como reinforcement learning from human feedback (RLHF), un proceso mediante el cual los sistemas aprenden de la evaluaci\u00f3n humana de sus respuestas. Y aunque permite que modelos como ChatGPT o Gemini sean cada vez m\u00e1s precisos, tambi\u00e9n los hace profundamente dependientes de la calidad y los sesgos de esa retroalimentaci\u00f3n. ‘El feedback del usuario juega un rol principal en el desarrollo de Gemini’, explic\u00f3 \u00c1ngela Sun, directora multiplataforma en Google. La ejecutiva subray\u00f3 que cada interacci\u00f3n cuenta, desde un prompt simple hasta un error de interpretaci\u00f3n, todo sirve para refinar el comportamiento de la IA y volverla m\u00e1s precisa, accesible y personal. Gemini, el modelo multimodal de Google, est\u00e1 dise\u00f1ado para ser un asistente universal capaz de generar respuestas a partir de texto, voz, imagen y video, lo que lo puede volver una extensi\u00f3n de los usuarios que interactuan con \u00e9l. Pero tambi\u00e9n esta interacci\u00f3n es m\u00e1s personal, lo que lleva a una ilusi\u00f3n de intimidad. En algunos casos, usuarios comparten informaci\u00f3n sensible, asumen que el sistema tiene memoria o incluso proyectan emociones en \u00e9l. Un estudio de Mozilla Foundation sobre privacidad en plataformas de IA encontr\u00f3 que m\u00e1s del 30% de los usuarios comparti\u00f3 datos personales sin verificar si estaban siendo almacenados. Adem\u00e1s, existen preocupaciones \u00e9ticas sobre c\u00f3mo la IA \u201creconfigura\u201d el error humano. Si una persona expresa un prejuicio, y el sistema lo interpreta como un patr\u00f3n v\u00e1lido porque fue reforzado con retroalimentaci\u00f3n positiva, el modelo podr\u00eda amplificarlo. A esto se le conoce como ‘deriva algor\u00edtmica’. Seg\u00fan un informe de AI Squared, integrar retroalimentaci\u00f3n humana en el entrenamiento de modelos mejora significativamente la precisi\u00f3n y la relevancia de sus respuestas. A su vez, Zendesk se\u00f1ala que el 72% de los l\u00edderes en experiencia del cliente esperan que la IA refleje los valores y la voz de sus marcas, lo que s\u00f3lo es posible si la tecnolog\u00eda aprende de los usuarios reales. El futuro, seg\u00fan Sun, ser\u00e1 inevitablemente multimodal, pues no se tratar\u00e1 de elegir entre texto o imagen, sino de interactuar seg\u00fan el contexto y la necesidad. En ese escenario, el error humano no desaparecer\u00e1, pero cambiar\u00e1 de funci\u00f3n. Ya no ser\u00e1 una falla que interrumpe el sistema, sino una se\u00f1al que lo fortalece.<\/p>\n\n\n\n

El espejo (distorsionado) que nos devuelve la IA<\/strong><\/p>\n\n\n\n

En marzo de 2024, un grupo de investigadores de la Universidad de Stanford public\u00f3 un an\u00e1lisis de c\u00f3mo los modelos de IA reconstruyen informaci\u00f3n err\u00f3nea tras haberla sido corregida por usuarios en etapas previas. \u201cEl sistema no olvida del todo: puede replicar errores pasados si los percibe como patrones estables\u201d, explica el reporte. Esto pone sobre la mesa un dilema al corregir a la IA, \u00bfestamos educ\u00e1ndola o alimentando una versi\u00f3n suavizada de nuestros propios errores? OpenAI, por ejemplo, permite a los usuarios desactivar el uso de sus conversaciones para entrenamiento, pero esta opci\u00f3n no siempre est\u00e1 activada por defecto. En el caso de Google Gemini, la empresa afirma que los datos se usan para mejorar sus productos, pero tambi\u00e9n que pueden ser revisados por humanos en ciertos casos.<\/p>\n\n\n\n

\n