Mantegna, No soy un robot: Construyendo un marco ético accionable para analizar las dimensiones de impacto de la Inteligencia Artificial. Terminología

 Glosario según Notebook LM

Para comprender profundamente la Introducción y el capítulo sobre las Dimensiones de impacto, las fuentes identifican una serie de términos clave que estructuran el marco ético propuesto:

Conceptos Generales de Impacto

• Algorithmic Awareness (Conciencia Algorítmica): La capacidad de los usuarios u operadores para reconocer que están interactuando con sistemas automatizados y que estos están operando a su alrededor.
• Asimetría Informativa: La brecha de conocimiento entre quienes desarrollan el sistema y los usuarios, donde estos últimos solo conocen lo que la interfaz les muestra, ignorando los procesos subyacentes.
• Pervasividad: La presencia omnipresente y silenciosa de la IA en todas las capas de la vida cotidiana, desde dispositivos corporales hasta ciudades inteligentes, dificultando la posibilidad de sustraerse a su uso.
• Escalabilidad (Scalability): El vector de amplificación que permite que los sistemas de IA se repliquen y distribuyan globalmente a gran velocidad, magnificando cualquier sesgo o error original.

Fiabilidad y Toma de Decisiones

• Accuracy (Confiabilidad): La eficiencia de un modelo para reflejar la realidad en sus predicciones y su capacidad de entender el contexto de aplicación.
• Principio de Proporcionalidad en Contexto: Postulado que sostiene que la adopción de un sistema de IA debe ser proporcional a la complejidad de los factores, al impacto que tiene sobre los seres humanos y a la necesidad de justificar la decisión.
• EBS (Evidence-Based Sentencing): Enfoque que busca decisiones judiciales informadas por datos y modelos estadísticos para tratar de objetivar la evaluación de riesgos en sentencias criminales.

Transparencia y Comprensión (Ofuscación)

• Ofuscación: Las distintas formas en las que los procesos o resultados de la IA resultan "oscuros" o velados para las personas.
• Opacidad: Falta de transparencia que puede ser técnica (por la complejidad del sistema) o legal (debido a secretos comerciales o propiedad intelectual).
• Inescrutabilidad: La incapacidad, incluso para expertos, de comprender cómo sistemas extremadamente complejos (como las redes neuronales profundas) llegan a un resultado específico.
• Explicabilidad y Trazabilidad: La capacidad de los sistemas para justificar sus acciones y permitir que sus "razonamientos" sean recreados y comprobados.
• XAI (Explainable Artificial Intelligence): Investigación orientada a crear modelos de aprendizaje automático que sean comprensibles para los humanos sin perder precisión.

Sesgos y Equidad

• Sesgo (Bias): La transposición de juicios, prioridades y prejuicios (conscientes o inconscientes) de los creadores o de los datos de entrenamiento hacia el modelo matemático.
• Data Proxies: Variables sustitutas (como el código postal) que se utilizan cuando no hay acceso a datos directos, pero que pueden cargar con prejuicios ocultos y generar discriminación.
• Fairness (Imparcialidad): En un contexto estadístico, se refiere a la fidelidad y exactitud con la que un modelo captura el fenómeno que busca reflejar.
• Inclusión: La modificación proactiva de los modelos para corregir inequidades de la realidad analógica y evitar que se trasladen al mundo digital.

Responsabilidad y Control

• Accountability: Término que engloba la auditabilidad (posibilidad de que el algoritmo sea evaluado) y la responsabilidad (mecanismos legales para responder por daños ocasionados).
• Dark Patterns (Patrones Oscuros): Diseños de interfaz que explotan vulnerabilidades del usuario para dirigir sus decisiones sin que este comprenda los verdaderos alcances de la interacción.