El modelo de inteligencia artificial Claude lidera el 26% de las tareas de investigación y desarrollo de Antropic, una participación que la empresa vincula con el seguimiento de sistemas capaces de intervenir en el desarrollo de modelos más avanzados.
La I+D de Antropic
La participación de Claude en la conducción de investigación y desarrollo era prácticamente nula en febrero. Para agosto, Antropic contaba con más de 30.000 agentes de IA dedicados a labores de investigación e ingeniería, un crecimiento concentrado en medio año.
En las tareas compartidas entre el modelo y los empleados, Claude interviene en cerca del 90% de toda la I+D de la compañía. La función de liderazgo mantiene supervisión humana: una persona define y vigila la orientación general, mientras el sistema ejecuta el trabajo.
Antropic precisó que Claude no desarrolla inteligencia artificial de forma completamente autónoma sin intervención humana. Los agentes de IA pueden ejecutar varias tareas para cumplir un objetivo definido, a diferencia de los chatbots limitados a responder instrucciones humanas.
La empresa presentó los indicadores en relación con la mejora recursiva reflexiva, o RSI, un proceso en el que la IA participa en el desarrollo de sistemas más avanzados. Esos sistemas mejorados pueden acelerar, a su vez, el desarrollo de la siguiente generación.
Antropic sostuvo que esa aceleración en el desarrollo de los propios modelos puede dificultar que las personas los entiendan o controlen. Bajo esa consideración, la compañía planteó la divulgación de métricas sobre la cercanía del sector a ese proceso.
Medición y revisión externa
Por primera vez, Antropic detalló la porción de recursos de cómputo dirigida a seguridad. Durante una semana de julio, cerca del 6% de los recursos de cómputo para I+D de IA se destinó a investigación de seguridad.
El porcentaje ascendió a alrededor del 12% de los recursos de cómputo al tomar únicamente la investigación y desarrollo de IA realizada por sistemas de IA. Además, la empresa estableció un seguimiento continuo del volumen de investigación realizado con esta tecnología.
La siguiente etapa prevista consiste en abrir el proceso interno a evaluadores de terceros. Antropic prevé que tengan acceso a procedimientos, sistemas y datos en un nivel similar al de sus empleados, con el fin de que el desarrollo y la seguridad sean revisados fuera de la compañía.
Dario Amodei, director ejecutivo de Antropic, ha planteado reforzar las salvaguardas mientras se controla el ritmo del desarrollo de IA de vanguardia. La apertura a evaluadores externos queda planteada como el próximo paso de ese esquema de seguimiento.
