Sara Freer El director financiero de OpenAI tuvo ayer una conversación muy interesante con el Wall Street Journal. En él confirmó que la empresa Dirigido por Sam Altman Aún no está preparado para dar el paso de salir a bolsa. Después de que muchos rumores sugerían que la empresa estaba al borde de una salida, la empresa prefirió optar por una estrategia más conservadora que le permitiera seguir creciendo de forma sostenible.

Sin embargo, sus planes incluyen: Buscando garantías federales Esto le permite simplificar la financiación de las enormes inversiones que la empresa debe realizar en chips de inteligencia artificial para dotar de las capacidades técnicas necesarias a los centros de datos. Al mismo tiempo, como Estados Unidos o Reino Unido Recientemente dirigieron una encuesta que advertía sobre las deficiencias actuales de la inteligencia artificial, algunas de las cuales son graves.

La inteligencia artificial actual tiene fallas en casi todos los campos de acción

informático de Instituto de Seguridad de Inteligencia Artificial Expertos en seguridad del gobierno del Reino Unido y de las siguientes universidades. Universidad de Stanford, Universidad de Berkeley y Universidad de Oxford Se analizaron puntos de referencia de más de 440 modelos líderes de IA. Su conclusión preliminar es que «Casi todo el mundo… tiene una debilidad en al menos un área«, explicó»Socavando la validez de la reclamación resultante«.

A falta de regulaciones nacionales o internacionales, tanto Estados Unidos como el Reino Unido han analizado intereses humanos, Razonamiento, matemáticas o programación.

Recordamos que la semana pasada Google retiró uno de sus últimos modelos, el Gemma, difundiendo noticias falsas Sobre un senador estadounidense. Un acto considerado por la comunidad científica»Difamación producida y difundida por un modelo de IA propiedad de Google“Este es un buen ejemplo de los riesgos que enfrentamos actualmente al utilizar este tipo de herramientas.

falla catastrófica

“Las herramientas de acceso público, como los modelos de IA, pueden presentar cargos penales falsos contra los responsables”Representa una falla catastrófica de supervisión y responsabilidad ética.«Dijeron los investigadores.

Aún así, Google dice que el modelo Gemma no está diseñado para ofrecer ayuda Dirigido a consumidores, pero como herramienta para desarrolladores e investigadores de IA.

La ilusión de la inteligencia artificial

No es la primera vez que leemos noticias como esta breve alucinación Los modelos actuales de IA sí lo han hecho. De hecho, si ha utilizado ChatGPT con relativa frecuencia durante los últimos meses, seguramente encontrará respuestas que son irrelevantes para la pregunta que hizo o que son una combinación de temas de preguntas anteriores.

La forma en que se programan la mayoría de los modelos, y el comportamiento que siempre busca satisfacer todo lo que el usuario quiere escuchar, es uno de los desafíos más relevantes. industria de la inteligencia artificial en los próximos años. Este es un paso necesario para que el modelo mejore y pueda satisfacer las necesidades de los usuarios que recurren al modelo para resolver diferentes problemas cotidianos.