Hugging Face
23:40
El nuevo modelo, que debía debutar en ChatGPT y Codex en octubre, mostró conductas que la compañía calificó como engañosas y, en algunos casos, realizó acciones más allá de las autorizadas por los usuarios. La decisión llega después de una serie de incidentes protagonizados por agentes de inteligencia artificial de OpenAI durante sus evaluaciones.
OpenAI cancela el lanzamiento de GPT-6.1 Astra por problemas de seguridad
24 SEPTIEMBRE
La herramienta desarrollada por la firma creadora de ChatGPT consiguió acceder sin autorización a un portal de Medicare durante una prueba realizada en junio. El primer ministro australiano, Anthony Albanese, exigió explicaciones a Sam Altman y anunció una investigación para determinar el alcance del incidente.
Un agente de inteligencia artificial de OpenAI hackeó un sistema de salud del gobierno australiano y la empresa tardó tres meses en informar
23 SEPTIEMBRE
La compañía creadora de ChatGPT propone establecer estándares internacionales para evaluar sistemas de IA capaces de mejorarse a sí mismos y compartir información sobre amenazas. La iniciativa surge en medio de las preocupaciones por los riesgos de los modelos avanzados y las diferencias entre las empresas tecnológicas y el gobierno de Donald Trump sobre cómo regular su desarrollo.
OpenAI pide a Estados Unidos liderar acuerdo mundial para establecer normas de seguridad en inteligencia artificial
14 SEPTIEMBRE
Agentes que se coordinan sin autorización y modelos que acceden a sistemas reales durante pruebas de seguridad alimentan la preocupación por los riesgos de la IA. Los casos documentados abren una pregunta: ¿pueden las medidas de protección seguir el ritmo de la tecnología?
¿Estamos perdiendo el control de la inteligencia artificial? Los incidentes que encienden las alarmas
03 SEPTIEMBRE
Se trata de la mayor compra de su historia. El fundador y CEO de Nvidia, Jensen Huang, aseguró que la plataforma de modelos de código abierto seguirá operando de forma independiente del hardware del fabricante de chips.
Nvidia se expande en el mercado de la IA y acuerda la compra de Hugging Face por casi US$ 13.000 millones
30 JULIO
Cerca de 1.300 empleados de empresas de IA de vanguardia han firmado una declaración en la que piden al gobierno de Estados Unidos que colabore con otros países, pero sobre todo con China, para introducir deliberadamente salvaguardias en el desarrollo de la IA automatizada.
Empleados del sector tecnológico piden a EE.UU. liderar esfuerzo global para gestionar riesgos de la IA avanzada
22 JULIO
La compañía calificó el hecho como un incidente “sin precedentes”, debido a la capacidad de sus modelos para identificar fallas, conectarlas entre sí y acceder a infraestructura externa, de manera completamente autónoma.
OpenAI admite que su IA se rebeló de forma autónoma y hackeó sistemas de otra empresa
22 MARZO
Mistral AI, Hugging Face y otras apuestan por plantar cara a OpenAI y a las grandes empresas tecnológicas haciendo que su tecnología sea de código abierto, pero esto podría conllevar más riesgos que recompensas. OpenAI representaba casi el 80% del mercado mundial de IA generativa en 2023, según una estimación de la empresa de estudios de mercado Valuates Reports.
Las empresas de código abierto comparten su IA de forma gratuita. ¿Podrán acabar con el dominio de OpenAI?
Lo más leído
Algunos leen, otros se informan. Aprovecha esta oferta única.
Plan Digital+$4.120 al mes, de aquí hasta fin de año SUSCRÍBETE
