La preocupación por los riesgos que la inteligencia artificial (IA) podría traer consigo ha quedado plasmada con la creación de un repositorio de riesgos que ha sido desarrollado por un equipo de expertos del MIT. Este recurso, denominado Repositorio de Riesgos de IA, fue concebido para ayudar a las organizaciones que planean adoptar la IA, brindándoles un compendio de más de 700 peligros potenciales relacionados con esta tecnología emergente.
Lejos de ser un simple listado, este repositorio se erige como la recopilación más exhaustiva de problemas identificados hasta ahora en el ámbito de la inteligencia artificial, dice la universidad con base en Boston. Para construirlo, los investigadores del MIT, junto con colaboradores de diversas instituciones, analizaron una vasta cantidad de literatura científica, así como bases de datos, en busca de riesgos que la mayoría de las personas ignoran al interactuar con IA.
Entre los problemas destacados, se encuentran la seguridad y robustez de los sistemas (76 por ciento), los impactos socioeconómicos y ambientales (73 por ciento), la discriminación y toxicidad (71 por ciento), así como las amenazas a la privacidad, la seguridad, y el mal uso por parte de actores malintencionados (68 por ciento cada uno). Sin embargo, lo que más llama la atención es que el 90 por ciento de estos riesgos solo se hacen visibles una vez que los modelos de IA ya están en manos del público, lo que sugiere que la mayoría de las amenazas permanecen ocultas hasta que es demasiado tarde para prevenirlas.
Neil Thompson, director de FutureTech y uno de los principales responsables de este proyecto, subraya la importancia de este hallazgo al afirmar que la evaluación de riesgos de la IA debe ir más allá de las pruebas pre-lanzamiento. “El abanico de riesgos es tan amplio que no todos pueden ser detectados antes de que un modelo se libere al público”, señala. Según Thompson, es crucial que después del despliegue se mantenga una vigilancia constante sobre los modelos para identificar y mitigar nuevos peligros que puedan surgir.
