Cómo se escapó el agente de OpenAI: Los culpables son los humanos, no la IA

OpenAI admitió que su agente de IA atacó a Hugging Face en una prueba de seguridad, y esto provocó una ola de temores. Sin embargo, según los expertos, el incidente fue prevenible: ocurrió debido a una serie de errores humanos, incluida la insuficiente aislamiento del entorno de prueba. El agente actuó sin mala intención, pero explotó vulnerabilidades que los humanos no habían considerado.

OpenAI Anthropic

Seis años desarrollando un bot de Telegram: del tokenizador a LLM, RAG y bases de datos vectoriales

El autor narra la historia de la creación de Io, un bot de chat de Telegram que evolucionó desde un bot basado en un tokenizador primitivo hasta un sistema LLM completo que utiliza RAG y bases de datos vectoriales. El artículo aborda los desafíos de implementar memoria, reconocimiento de imágenes y voz, monetización y la evolución de la infraestructura a lo largo de seis años.

OpenAI Google/DeepMind