La inteligencia artificial ha pasado de ser una promesa futurista a una realidad cotidiana, presente en buscadores, teléfonos y aulas. La discusión actual se centra en cómo convivir con esta herramienta que, aunque puede mejorar procesos y ahorrar tiempo, también conlleva riesgos difíciles de medir.

Recientemente, el papa León XIV presentó su encíclica "Magnifica Humanitas", donde advierte sobre el poder de la inteligencia artificial y la necesidad de establecer controles públicos, proteger el empleo y regular su uso para evitar la exclusión y la manipulación. En este contexto, se destaca que la IA "no es neutral" y debe ser regulada para salvaguardar el bien común.

El especialista Simari subrayó que uno de los principales riesgos de la IA es su tendencia a siempre ofrecer respuestas, incluso cuando no tiene certeza. Esto puede ser problemático en áreas como diagnósticos médicos o decisiones académicas. A medida que la sociedad aprende a interactuar con esta tecnología, se han comenzado a reconocer sus fallas y limitaciones. Simari enfatizó que es crucial entender cuándo la IA es útil y qué grado de supervisión humana requiere.

Además, se mencionó el fenómeno de las "alucinaciones", donde la IA proporciona respuestas incorrectas pero presentadas con seguridad. Este tipo de errores no son accidentes, sino parte del diseño de muchos modelos de IA, que buscan patrones en grandes volúmenes de datos. La relación emocional que algunas personas desarrollan con estos sistemas también es motivo de preocupación, ya que pueden alterar la forma en que se construyen vínculos y se toman decisiones, especialmente entre los jóvenes.

Simari también abordó el tema de los sesgos en la IA, que pueden influir en las respuestas ofrecidas, incluso cuando los usuarios son conscientes de ellos. La encíclica del Papa resalta la concentración del poder tecnológico y la necesidad de marcos jurídicos y vigilancia independiente. Además, se advierte sobre el riesgo de reducción de puestos de trabajo y desigualdad salarial, lo que plantea la pregunta de si la IA será una herramienta para ampliar capacidades humanas o un mecanismo para profundizar desigualdades. El debate sobre su uso y regulación continúa, con un enfoque en establecer límites y responsabilidades en su implementación en diversas áreas de la vida cotidiana.