En los últimos años, la inteligencia artificial (IA) ha ganado un papel protagónico en el desarrollo de software. Sus capacidades de aprendizaje automático y procesamiento de datos masivos han transformado la forma en que se construyen y mejoran las aplicaciones. Sin embargo, no todo es color de rosa, y entre más investigo e indago al respecto, más puedo apreciar los retos éticos que este boom representa. Todo esto viene de un ex-adicto a la seguridad de la información.

Beneficios

A la hora de programar, definitivamente ha sido de gran ayuda el uso de estas herramientas (en específico ChatGPT, aunque sé que hay un montón ahora).

• Automatización de tareas: Una de las ventajas más destacadas de la IA en el desarrollo de software es su capacidad para automatizar tareas repetitivas y tediosas. Esto permite a los desarrolladores enfocarse en aspectos más creativos y estratégicos del proceso reduciendo el tiempo de desarrollo.

• Mejora de la precisión: La IA puede analizar grandes volúmenes de datos y encontrar patrones ocultos o realizar predicciones con mayor precisión que los métodos tradicionales. Esto resulta especialmente útil en áreas como el análisis de datos, la detección de errores o la optimización de algoritmos.

Justo en este particular, la detección de errores y la optimización de código me ha parecido especialmente útil. Al ser como un motor de búsqueda con esteroides, se pueden hacer preguntas más complejas, pegar piezas de código y solicitar ideas de optimización.

Desventajas

• Falta de transparencia: Uno de los principales desafíos de la IA es su falta de transparencia. Los algoritmos de aprendizaje automático pueden ser difíciles de comprender y explicar, lo que dificulta la detección de sesgos o errores. Esto plantea preocupaciones éticas y legales, especialmente en aplicaciones que toman decisiones críticas, como la selección de candidatos o la evaluación de riesgos.

• Dependencia de datos de calidad: La IA depende en gran medida de los datos de entrada para entrenar sus algoritmos. Si los datos utilizados están incompletos, desequilibrados o contienen sesgos, esto puede afectar negativamente la precisión y la confiabilidad de los resultados. Además, el acceso a datos de alta calidad puede ser limitado o costoso en algunos casos.

El desafío ético

La forma como las grandes empresas detrás de estos modelos recaban datos para alimentar los modelos de inteligencia artificial es uno de los aspectos más críticos y debatidos en la actualidad. A medida que la IA se vuelve más prominente en el desarrollo de software, estas empresas acumulan cantidades masivas de información personal de los usuarios, lo que plantea preocupaciones significativas sobre la privacidad y el uso adecuado de los datos.

Uno de los problemas éticos clave es el consentimiento informado. A menudo, los usuarios no son plenamente conscientes de cómo se utilizan sus datos personales y cómo se alimentan a los modelos de IA. Esto puede conducir a una falta de transparencia y a la explotación de los usuarios, especialmente cuando los datos se venden a terceros sin el conocimiento o consentimiento adecuados.

Además, existe el peligro de que los datos recopilados se utilicen para manipular y controlar a los usuarios. Las grandes empresas tienen un poder significativo al recopilar y analizar información personal, lo que plantea preocupaciones sobre la invasión de la privacidad y la posibilidad de utilizar los datos con fines lucrativos o políticos sin el consentimiento adecuado.

En resumen, el desafío ético de recabar datos para alimentar los modelos de IA implica garantizar la transparencia, el consentimiento informado, abordar los sesgos y la discriminación, y proteger la privacidad de los usuarios. Es necesario establecer marcos éticos sólidos y regulaciones claras para guiar el uso responsable de la IA y garantizar que los beneficios se maximicen y los riesgos se minimicen para el bienestar de la sociedad en su conjunto.

Pero en cambio, justo hoy Google afirma que recolectará todo lo que publiques en línea para sus proyectos de inteligencia artificial. Una actualización de la política de privacidad de Google indica que toda la internet pública es de acceso libre para sus proyectos de IA.

Hasta que punto los propios servicios de Google no serán utilizados con nuestros datos personales para alimentar estos algoritmos, si no es que Microsoft también estará haciendo esto. En fin, de momento sólo puedo sugerir aprender a usar las herramientas, y optimizar nuestros trabajos para conseguir una ventaja tecnológica importante. Y ojo, no es confiar 100% en las herramientas, siempre puedes discernir de lo que plantea, llevar la contraria, mejorar lo que sugiere, y ponerle tu sello personal a cada una de tus creaciones.

Acerca del Autor

Alex Barrios

Cuenta con más de 15 años de experiencia en distintos campos de las tecnologías de información, ejerciendo principalmente como desarrollador fullstack, administrador de sistemas y asesor de seguridad informática certificado (OSCP, OSCE, OSWP, Hardware Security, Software Security, Usable Security).