Anthropic contrata expertos en armas para proteger a la IA del uso indebido

Anthropic está en una campaña de contratación de analistas de cumplimiento y expertos en la materia encargados de evitar que sus sistemas de IA se utilicen para ayudar a construir armas de destrucción masiva, cometer ciberataques o llevar a cabo fraudes financieros.

La empresa ha publicado una serie de ofertas de empleo en los últimos días buscando especialistas en daños radiológicos y nucleares, productos químicos y explosivos, ciberdelincuencia y otras categorías de amenazas, tal como informó Axios y detalló Yahoo Finance. Los puestos, que ofrecen salarios en el rango de los 200.000 a casi 300.000 dólares, no requieren habilidades de programación; en su lugar, Anthropic busca experiencia en el mundo real en campos como la física nuclear, la biología y los explosivos, junto con la capacidad de pensar como un atacante que busca puntos débiles en las defensas de la empresa.thenextweb+1

Un aparato de seguridad en crecimiento

Una oferta para un "Analista de cumplimiento de salvaguardias, daños radiológicos y nucleares" solicita candidatos con experiencia en ingeniería nuclear o física de la salud y experiencia en la no proliferación de armas de destrucción masiva o inteligencia de amenazas. Otra, centrada en el daño cibernético, pide a los analistas que detecten y mitiguen los intentos de convertir los modelos de Anthropic en armas para operaciones cibernéticas maliciosas. La empresa también está contratando científicos de investigación en seguridad biológica con doctorados en virología, microbiología o campos relacionados para "definir cómo es la seguridad responsable de la IA en el dominio biológico".job-boards.greenhouse+2

Un portavoz de Anthropic dijo a The Next Web que "garantizar que nuestros modelos no proporcionen información potencialmente dañina es fundamental para un desarrollo responsable", y añadió que cientos de empleados trabajan ahora en la seguridad. La BBC informó a principios de este año que Anthropic buscaba un experto en armas químicas y explosivos de alto rendimiento para mitigar lo que denominó "uso indebido catastrófico" de su tecnología.bbc+1

Las repetidas advertencias de Amodei

El impulso de contratación sigue de cerca las advertencias del director ejecutivo Dario Amodei, quien ha pasado gran parte del último año dando la voz de alarma sobre los riesgos que plantea la IA avanzada. En un ensayo de enero, Amodei escribió que los ataques biológicos eran lo que más le preocupaba, señalando que "sumados a lo largo de millones de personas y unos pocos años, creo que existe un riesgo grave de un ataque importante, con víctimas potencialmente de millones o más". También ha advertido sobre una ventana de seis a 12 meses para que las empresas y los gobiernos parcheen las vulnerabilidades de software que los últimos modelos de Anthropic han identificado.axios+2

Autorregulación en un vacío legislativo

Anthropic no está sola en este esfuerzo. OpenAI también está contratando investigadores centrados en riesgos biológicos y químicos, con salarios de hasta 445.000 dólares. El impulso paralelo subraya una dinámica inusual en la industria de la IA: las empresas que construyen los modelos más potentes son también las que están contratando personal para vigilarlos, ante la ausencia de una legislación federal integral sobre seguridad de la IA. Amodei ha reconocido la tensión, calificando a las propias empresas de IA como un nivel de riesgo justo por debajo de los estados hostiles.thenextweb