5 problemas com IA que permanecem sem solução

5 problemas de la IA que siguen sin resolverse

31 de mayo de 2024 Roberto Magalhães

Si bien la IA sigue siendo muy útil en una amplia variedad de situaciones empresariales, estos y otros problemas aún no se han resuelto.

La inteligencia artificial (IA) está involucrada en muchos aspectos de la vida moderna y ofrece beneficios como conveniencia, sistemas y servicios mejorados y una mejor calidad de vida. La tecnología se utiliza en múltiples industrias, incluidas la atención médica, la automoción, las finanzas, el transporte, los viajes y el comercio electrónico. Por ejemplo, en el sector sanitario, se puede utilizar para gestionar datos de pacientes, diagnosticar enfermedades e incluso realizar cirugías. Un ejemplo destacado en la industria del automóvil son los coches autónomos. Y, en el comercio electrónico, se utiliza para encontrar sugerencias de productos que los compradores puedan considerar.

Pero la IA no es perfecta. Algunas de las cuestiones tienen que ver con cómo se utiliza la tecnología, más que con la tecnología en sí. Por ejemplo, la frase "basura entra, basura sale" se aplica cuando se introducen datos incorrectos en una IA, lo que produce resultados inexactos. Otros desafíos tienen que ver con consideraciones prácticas, como los costos de tiempo y dinero que implica hacer que la IA funcione como las empresas la necesitan y el número limitado de operadores capacitados disponibles.

La IA sigue siendo muy útil en una amplia variedad de situaciones empresariales. Sin embargo, todavía quedan varios problemas de IA que aún no se han resuelto. Aquí analizamos cinco de los problemas más apremiantes, los problemas que pueden causar y algunas de las cosas que se están haciendo para abordarlos.

1. Sesgo

El problema del sesgo de la IA ha sido bien documentado. Puede conducir a cosas como discriminación en la vivienda, las solicitudes de empleo y el sistema de justicia penal. Por ejemplo, Amazon utilizó la IA para elegir candidatos para puestos de trabajo solo para darse cuenta de que constantemente consideraba a las mujeres como no calificadas. Este sesgo es el resultado del sesgo en los datos utilizados para entrenar la IA.

El siguiente vídeo describe cómo el reconocimiento facial también puede ser discriminatorio contra las mujeres.

A medida que la IA se arraiga más en nuestra cultura, existe la posibilidad de que el sesgo y la equidad se conviertan en un problema mayor. El problema se vuelve más pronunciado cuando los operadores no están capacitados para detectar distorsiones o cuando asumen que los resultados son neutrales ya que provienen de una máquina. El problema del sesgo de la IA es un desafío que se puede superar, pero hacerlo puede requerir más tiempo y dinero, así como expertos capacitados adicionales.

2. Falta de talento

La industria de TI lleva algún tiempo lidiando con una escasez de talento. Aunque muchos nuevos trabajadores de TI están disponibles, la demanda aún supera la oferta. Los científicos de datos de IA son aún más raros y las empresas pueden tener dificultades para encontrar trabajadores calificados en este campo. Algunas empresas están abordando este desafío creando programas internos de capacitación y educación, que pueden adaptarse a las necesidades específicas de cada empresa. Sin embargo, estos programas pueden tardar años en dar frutos.

3. Alto costo en dólares y tiempo

La IA es cara, especialmente al principio. Los costos monetarios incluyen hardware, software y capacitación del personal. El hardware debe ser dedicado y de alta potencia, lo que aumenta el gasto. El hecho de que este hardware también tenga una gran demanda para la minería de criptomonedas ha aumentado aún más el precio.

Pero esto es solo el principio. Los operadores de IA deben dedicar tiempo a “entrenar” la IA, algo que, dependiendo de la aplicación, puede llevar meses. Otro elemento que requiere mucho tiempo en el uso de la IA es la recopilación, organización y etiquetado de datos. Si bien los conjuntos de datos existentes se pueden utilizar para reducir el tiempo requerido, puede ser necesario crear nuevos conjuntos de datos si los disponibles no satisfacen las necesidades de los operadores.

4. Seguridad

Otro problema de la IA es la seguridad. La IA tiene el potencial de mejorar la ciberseguridad, pero también de crear nuevas vulnerabilidades. Las siguientes son las principales amenazas a la seguridad para las aplicaciones de IA.

Entrada no autorizada. Un ciberdelincuente podría irrumpir en un sistema de seguridad de reconocimiento de voz creando una grabación de audio que un algoritmo de reconocimiento de audio reconocería como humana. Las imágenes y el reconocimiento facial se pueden utilizar de la misma forma.
Falsas predicciones. Un ciberdelincuente podría proporcionar a la IA información falsa diseñada para generar predicciones inexactas.
Corrupción de datos. Los conjuntos de datos pueden modificarse para crear resultados inexactos. Las organizaciones deben utilizar políticas estrictas de administración de acceso privilegiado (PAM) para evitar este tipo de ataque.
Transferir aprendizaje. Aquí, el ciberdelincuente engaña a una IA que está entrenada para realizar una determinada función.
Manipulación en línea. Cuando una IA está conectada a Internet, los ciberdelincuentes pueden atacarla directamente proporcionándole datos falsos o entrenándola para que arroje resultados inexactos.

Otro tema relacionado con la seguridad es la privacidad de los datos. Los operadores de IA tienen la responsabilidad de mantener la confidencialidad de los datos, especialmente la información sensible, como los registros médicos o financieros. Sin embargo, una seguridad insuficiente puede dejar los sistemas vulnerables a ataques y los datos susceptibles de ser robados.

5. Ética

La IA entiende la lógica, pero la ética no siempre es lógica. Por lo tanto, los ingenieros aún no han podido programar la IA para comprender la moralidad involucrada en las actividades humanas. Esto significa que algunas decisiones tomadas por sistemas de IA basados en algoritmos pueden ir en contra de las preocupaciones éticas humanas.

Otros desafíos están relacionados con cómo se utiliza la IA. Por ejemplo, muchos trabajadores están preocupados por la posibilidad de perder sus empleos a causa de las máquinas de inteligencia artificial. ¿Es ético que los empleadores hagan estas sustituciones, que conducen a un alto desempleo? Los vehículos autónomos pueden lesionar a los peatones. ¿Es ético permitirles viajar si tales accidentes son posibles? ¿Quién tiene la culpa en estas situaciones ya que no hay conductor? Otro ejemplo es la vigilancia que incluye IA. ¿Es ético implementar el reconocimiento facial, que plantea importantes preocupaciones sobre la privacidad?

Además, los operadores de IA no siempre saben exactamente cómo llega la IA a determinadas conclusiones. Esta cualidad desconocida se conoce como caja negra: un lugar donde se realizan cálculos que nadie puede ver, lo que hace que la IA sea cada vez más responsable de decisiones que no pueden justificarse.

Los problemas de IA dejan atrás a las pequeñas empresas

Los problemas mencionados anteriormente son un desafío para las grandes empresas y obstáculos potenciales para las pequeñas. En otras palabras, es posible que las pequeñas empresas no tengan los recursos para abordar estos problemas y, por lo tanto, opten por no utilizar la IA. Por ejemplo, muchas empresas más pequeñas pueden carecer del dinero, la capacitación y los recursos para eliminar los prejuicios, así como la capacidad de atraer a los mejores talentos.

Cuando las pequeñas empresas optan por no utilizar la IA, siguen estando en desventaja en el panorama competitivo de sus industrias. Por lo tanto, la accesibilidad a las capacidades de IA puede ser otro desafío tecnológico que aún no se ha resuelto.

En general, muchos de estos problemas de IA tienen el potencial de solucionarse, pero requerirán esfuerzo, tiempo e inversión para resolverlos.

Si le gustó esto, asegúrese de consultar nuestros otros artículos sobre IA.