Anthropic ofrece ayuda a los proyectos de código abierto para encontrar vulnerabilidades de seguridad con un servicio nuevo llamado OSS Scanner, informó The Verge el 8 de octubre. Según la empresa, los proyectos que se inscriban recibirán "escaneos de seguridad exhaustivos y periódicos hechos por nuestros modelos más fuertes, sin costo".
Eso podría significar que los proyectos de código abierto se enteren antes de posibles fallas de seguridad. La contracara es que los reportes de OSS Scanner no pasan por revisión humana. Anthropic lo explica así en su anuncio.
"Los resultados de este escáner de vulnerabilidades voluntario serán generados íntegramente por modelos, sin revisión ni clasificación humana. Esto permitirá escanear más rápido y con más frecuencia, pero significa que es posible que los reportes sean incorrectos o inválidos. Estos reportes los generarán nuestros modelos más fuertes (incluido Claude Mythos) para dar a los proyectos de código abierto la mayor ventaja defensiva".
¿Es el primero de su tipo?
OSS Scanner está lejos de ser el primer asistente con IA para cazar errores. En los últimos meses, herramientas de IA ayudaron a encontrar fallas de seguridad graves en software de código abierto, como el error "Copy Fail", que en mayo afectó a casi todas las distribuciones de Linux.
Al mismo tiempo, varios proyectos de código abierto tienen problemas para dar abasto con la avalancha repentina de reportes de errores generados con IA. Entre los que se han quejado está Linus Torvalds, e incluso Google pausó su programa de recompensas para código abierto por la cantidad de envíos de baja calidad hechos con IA.
