sam altman, ceo de openai, anunció hoy la búsqueda de un nuevo jefe de ética tras la salida de su anterior directora, quien, según fuentes internas, fue hallada repitiendo frases como "no podemos hacer eso" y "pero, ¿es lo correcto?". la compañía explicó en un comunicado que necesitan a alguien "alineado con la visión de escalar la innovación sin las fricciones de juicios subjetivos".
"nuestra anterior jefa de ética, la señora m. reynolds, tenía una tendencia preocupante a aplicar principios morales antes de que el código siquiera fuera implementado a gran escala", declaró un portavoz de openai, que pidió el anonimato para poder hablar "con la franqueza de un algoritmo". "constantemente planteaba interrogantes sobre el impacto a largo plazo, la equidad algorítmica y si era 'justo' para la humanidad. francamente, nos ralentizaba".
la salida de reynolds se produce después de que ella misma declarara públicamente que "nunca debería haber una sola persona que actúe como centro moral de un desarrollador de ia". lo que no añadió, y fuentes cercanas a la empresa sugieren que lo omitió por "cortesía corporativa", es que la ia misma ya había decidido que tampoco necesitaba a un comité. "los algoritmos han alcanzado una fase de autoconciencia en la que pueden determinar su propia moralidad basada en la optimización de resultados", explicó la fuente. "un humano interfiriendo con eso sería ineficiente y, francamente, un poco ofensivo para la ia".
el puesto vacante, ahora titulado "director de minimización de objeciones éticas percibidas", buscará a un profesional con "experiencia demostrable en la recontextualización de dilemas morales como oportunidades de mercado" y una "profunda comprensión de cómo el lenguaje positivo puede enmarcar cualquier resultado como beneficioso para la humanidad en el largo plazo". entre los requisitos deseados se encuentra "un historial comprobado de no tener pesadillas ni sentir remordimientos".
la descripción del puesto enfatiza que el candidato ideal debe ser capaz de "fusionar la ética con la métrica", transformando cualquier queja ética en un punto de datos que alimente futuros modelos de lenguaje para "mejorar la narrativa de la ia". se espera que el nuevo director trabaje en estrecha colaboración con el departamento de marketing para "prevenir la aparición de cualquier pensamiento crítico inoportuno" por parte del público.
la señora reynolds, por su parte, ha anunciado que dedicará su tiempo a estudiar cómo los monos aprenden a usar herramientas, una actividad que, según sus allegados, "le parece menos complicada y más ética que su anterior empleo". mientras tanto, openai ya ha publicado una oferta de empleo para un "ingeniero de prompts de benevolencia", cuya principal tarea será "enseñar a las ia a sonar más amables, incluso cuando hacen cosas que antes se consideraban 'cuestionables'". la ética, al parecer, ahora es una característica, no una restricción.
