Un agente basado en Claude dirigió una cirugía en un ratón
BROBROK News · Basado en un reportaje de DiarioBitcoin ·
Un agente basado en Claude Sonnet 5 habría elegido una terapia génica, el objetivo cerebral y los parámetros de inyección para un experimento en un ratón con convulsiones. A mitad del procedimiento, se detuvo al detectar que el blanco quedaba fuera del rango físico del dispositivo, y luego el equipo corrigió el sistema manualmente.
Puntos clave
- El agente comparó 19 terapias candidatas antes de seleccionar una para la prueba.
- También definió el objetivo cerebral, las coordenadas estereotáxicas y los parámetros de inyección.
- Un veterinario aprobaba cada paso irreversible y existía una parada de emergencia física.
- El sistema se negó a continuar al detectar una discrepancia entre el objetivo y el alcance de la máquina.
- Los resultados todavía no tienen revisión por pares.
Por qué importa
El caso sugiere que un agente de IA puede intervenir en decisiones experimentales y en el control de un dispositivo en un entorno biológico real. También muestra que los mecanismos automáticos de seguridad pueden frenar una acción riesgosa, aunque sigue siendo necesaria la supervisión humana para corregir fallos.
Titular original: “Claude eligió una terapia génica y operó el cerebro de un ratón, pero se detuvo por seguridad”
Leer la original en DiarioBitcoin
Resumen y análisis escritos por BROBROK News a partir del reportaje original. Lee la noticia completa en el sitio de la fuente. No es recomendación de inversión.