La brecha ética en las grandes empresas de IA
OpenAI acaba de perder a Chloé Bakalar, su responsable de ética, menos de un año después de su incorporación. Bakalar llegó procedente de Meta, donde pasó siete años desarrollando y dirigiendo programas de ética en inteligencia artificial. Su salida se suma a otras dimisiones recientes de perfiles técnicos de alto nivel en la compañía.
Lo relevante aquí no es solo que se vaya una profesional con experiencia, sino cómo la propia Bakalar ha explicado públicamente el problema de fondo: confiar la responsabilidad ética en una única persona es, simplemente, un error estructural. Según sus propias palabras, la ética no debería recaer en un solo experto actuando como «centro moral» de la empresa. Es responsabilidad de todos.
Dicho así, parece una observación obvia. Pero mira bien cómo responden desde OpenAI ante su marcha: dicen que la ética no depende de una sola persona y que está integrada en todo el proceso. El problema es que Bakalar era la única experta dedicada exclusivamente a esa función. Una contradicción que refleja un dilema más profundo.
El riesgo real para desarrolladores y usuarios
Cuando una empresa de tecnología contrata a expertos en ética, la intención teórica es que analicen el impacto de los productos en la sociedad: desde cómo se diseñan hasta cómo se regulan. En el sector de la IA, donde los sistemas son cada vez más potentes, este trabajo es crítico. Pero si esa función queda diluida en «todos son responsables», lo que ocurre en la práctica es que nadie es realmente responsable.
Este patrón no es único de OpenAI. Anthropic, su principal competidor, construyó su marca precisamente en ser «la alternativa responsable». Sin embargo, también ha visto cuestionada su credibilidad tras reducir sus compromisos de seguridad a principios de año. Mantiene un equipo de alineamiento dirigido por Amanda Askell, pero incluso así, medir el impacto real de estos esfuerzos es cada vez más complicado.
¿Qué debes entender como usuario o profesional que interactúa con estas tecnologías? Que la presencia de un experto en ética en una empresa no es garantía de nada. Lo que importa es si esa función tiene poder real en las decisiones de producto, si reporta directamente al liderazgo y si sus advertencias pueden frenar un lanzamiento. Cuando ves que esa persona se va, y además explica que el sistema estaba mal diseñado, es una señal clara de que la ética era accesoria, no central.
La presión comercial es real. OpenAI pasó de ser una organización sin ánimo de lucro con misión de seguridad a una empresa con fines de lucro. Eso cambia los incentivos. Y si planea salir a bolsa, esos incentivos se modificarán aún más. No se trata de que la gente sea mala; se trata de cómo funcionan las estructuras.
