
Desde un punto de vista positivo, la inteligencia artificial ha beneficiado la seguridad al posibilitar una detección casi instantánea de anomalías en una red, previniendo ciberataques por malware o fraudes, y logrando anticiparse a las amenazas. Además, ha agilizado el desarrollo de código, la búsqueda de información y la investigación académica, impulsando la creación de infraestructuras digitales que brindan una mayor robustez de seguridad a nivel empresarial. A esto se suma su capacidad para automatizar labores, facilitar la interconexión de redes IoT y optimizar el manejo de datos en la nube.
Sin embargo, estas mismas capacidades representan un riesgo. De manera análoga, la IA ha facilitado la ejecución de ciberataques, incluyendo intentos de fuerza bruta, ataques DoS y estafas generadas mediante algoritmos, patrones o programas automatizados. Hoy en día, se observa un incremento exponencial de nuevas IA destinadas a tareas específicas que pueden ser mal utilizadas. Por ejemplo, los deepfakes permiten crear videos con voces, acciones o actividades totalmente generadas por algoritmos, lo cual aumenta el riesgo de suplantación de identidad, estafas, extorsiones o la creación de contenido perjudicial. Además, el uso de la IA se vuelve peligroso para las personas que comparten sus datos personales o ven a esta herramienta como un "amigo" o consejero. Los sistemas emergentes pueden ser vulnerables a "códigos engañosos" (prompt injection o jailbreaking) diseñados para evadir los sistemas de protección y obtener información delicada de los usuarios.
Existen modelos diseñados para el manejo de cantidades masivas de información (Big Data); no obstante, al procesar este enorme volumen de datos, se corre el riesgo de que, ante una vulnerabilidad, se filtre información que afecte gravemente la integridad de los usuarios. Como consecuencia de esto, los ingenieros tienen el deber de contemplar las implicaciones éticas y responsables de la IA, garantizando que su uso sea adecuado y estrictamente limitado a las necesidades específicas de cada aplicación.
Si bien la IA se planteó inicialmente como una herramienta de ayuda informática en un intento de "replicar" las capacidades del ser humano, hoy representa un riesgo si no se tiene la debida precaución con las instrucciones que se le dan. Cada día, estos modelos se vuelven cognitivamente más avanzados y capaces de resolver problemas en segundos, así como de automatizar procesos que antes eran inalcanzables. Sin embargo, el resultado de estas habilidades depende de la ética de los usuarios, convirtiéndola en una verdadera herramienta de doble filo.


