este Las discusiones sobre cómo debería regularse la inteligencia artificial han creado divisiones cada vez más marcadas dentro de OpenAI.. Siete empleados actuales y un ex empleado de la empresa han donado un total de más de 215 000 dólares a Guardrails Alliance, un súper PAC que exige mayores salvaguardias para los laboratorios que desarrollan modelos de vanguardia. La cifra es particularmente significativa porque el grupo pretende contrarrestar la influencia política de Leading the Future, otro grupo respaldado por el presidente y cofundador de OpenAI, Greg Brockman, que incluye otras organizaciones de alto perfil en Silicon Valley.

La confrontación refleja Hay dos visiones distintas sobre cómo debería intervenir la política en el desarrollo de la inteligencia artificial. Guardrails Alliance se lanzó el mes pasado como un esfuerzo de $5 millones con el objetivo de recaudar $15 millones en este ciclo electoral para apoyar a los candidatos a establecer el control de los sistemas de última generación. Leading the Future tiene más de 100 millones de habitantes y ha hecho de las regulaciones opuestas que considera perjudiciales para la innovación uno de sus principales argumentos, al tiempo que defiende el marco regulatorio federal contra una proliferación de diferentes leyes estatales.

También es digno de nuestra cuidadosa consideración. ¿De dónde viene el dinero aportado por los trabajadores?. Juan Felipe Cerón Uribe, ingeniero de investigación de OpenAI desde 2022, donó solo 200.000 dólares, por lo que representa la gran mayoría de más de 215.000 dólares. El investigador de seguridad Gabriel Wu donó otros 5.000 dólares; Julie Steele y Jason Wolfe, quienes coordinan el esfuerzo, donaron $5,000 cada uno; y David Farhi, exdirector de investigación de OpenAI, donaron 3.000 dólares.

El estatus de Cerón Uribe es particularmente notable porque Directamente de las personas que trabajan para reducir el daño que estos sistemas pueden causar.. El investigador explicó que ha estado trabajando en estrategias de mitigación durante los últimos cuatro años y le preocupa que gran parte de este trabajo sea inútil si finalmente no existen leyes a las que las empresas deban responder en la forma en que desarrollan la inteligencia artificial. También criticó el marco legislativo bajo el cual la enorme riqueza tecnológica puede usar su poder económico para regular las operaciones de sus propias empresas.

Las tensiones se extienden más allá de las contribuciones financieras. La participación de Brockman en Leading the Future ha causado preocupación entre algunos empleadospidió a la dirección que explicara la relación de OpenAI con los super PAC. La empresa sostiene que las actividades políticas de su presidente son a título personal y no en nombre de OpenAI, recordando que sus empleados son igualmente libres de donar o asesorar a candidatos y organizaciones políticas por su cuenta. Así que el conflicto no enfrenta oficialmente a OpenAI con sus empleados, pero sí demuestra una postura de oposición dentro de su propio ecosistema sobre el tipo de regulación que necesita la industria.

La brecha en las capacidades económicas entre las dos partes también es enorme.. La Guardrails Alliance pretende recaudar 15 millones de dólares, y Greg Brockman y su esposa, Anna, han comprometido conjuntamente 50 millones de dólares para «Liderar el futuro». Incluso con el resto del apoyo que ha recibido Guardrails, la organización todavía está muy lejos de poder competir seriamente con sus rivales. Los jefes insisten en que no necesitan hacer esto y creen que la opinión pública a favor de introducir restricciones y responsabilidades compensará en parte esta desventaja financiera.

La batalla se ha centrado directamente en las elecciones estadounidenses. Los grupos que apoyan una regulación más estricta y los más cercanos a la industria están gastando millones de dólares para apoyar o intentar derrotar a candidatos basados ​​en posiciones en materia de IA. Este fenómeno tampoco se limita a OpenAI: Anthropic aumentó recientemente su apoyo total a Public First Action, otra organización que promueve la garantía de sistemas avanzados, a 40 millones de dólares. La regulación de la inteligencia artificial ya no es sólo un debate entre expertos en tecnología y legisladores, sino también un campo de batalla electoral en el que hay cada vez más dinero disponible.

Quizás sea dentro de OpenAI donde esta controversia sea más fácil de visualizar. Por un lado, uno de sus altos funcionarios está canalizando decenas de millones de dólares a una organización con la esperanza de evitar regulaciones que considera perjudiciales para la industria; por el otro, algunos profesionales que trabajan directamente con estos sistemas están pagando de su propio bolsillo para exigir mayor control y rendición de cuentas. Aunque las cifras varían mucho y ocho personas no representan a todos los empleados, este incidente expuso un problema que es cada vez más difícil de ignorar: Quienes están construyendo inteligencia artificial de última generación tampoco se ponen de acuerdo sobre quién debería limitarlacuáles deberían ser y cuánto poder deberían tener las propias empresas de tecnología para determinarlos.

Más información