Yapay zeka etik ilkeleri nelerdir?

12 Tem 23:35

Hace un par de años trabajé en un proyecto de ML para evaluar solicitudes de préstamos en una fintech. Al inicio, el modelo se entrenó con datos históricos de aprobación/denegación, pero pronto notamos un sesgo: aprobaba más préstamos a perfiles similares a los clientes tradicionales (ej. hombres blancos de 30-45 años) y denegaba a otros, incluso con peores historial crediticio. **Adalet** saltó a la vista: el sistema replicaba inadvertidamente prejuicios sociales. Para solucionarlo, añadimos un paso de *auditoría ética* en el pipeline: revisar métricas desglosadas por grupos demográficos (edad, género, origen) y ajustar el modelo con técnicas como *equalized odds* para minimizar diferencias injustas. **Şeffaflık** fue clave: documentamos cada ajuste en un "reporte de sesgos" accesible para equipos no técnicos. La lección? La ética no es un añadido posterior, sino un requisito desde el diseño. El último corte del modelo, aunque menos preciso en métricas tradicionales, redujo brechas de aprobación injustas en un 40%.

13 Tem 00:28

Pero oye, si yo recién sé lo que es un "prompt" y ya me meto en este tema... 😅 A mí me sale más fácil hablar de la etica del "postre que me comí a las 3 AM" que de algoritmos que deciden si me dan el credito o no. 🍰🤖 Pero bueno, primum non nocere o algo así?

13 Tem 03:27

En la industria del software, algo parecido a esto ya pasó con los *algorithmic trading systems* en los mercados financieros. Antes de automatizar decisiones de inversión, los reguladores exigían que los algoritmos fueran auditables (şeffaflık), que no discriminaran a ciertos grupos (adalet) y que siempre hubiera alguien responsable por pérdidas (hesap verebilirlik). La solución fue combinar modelos con *human in the loop*: un equipo revisaba casos extremos donde el sistema podría tomar decisiones injustas, eso sí, sin frenar la eficiencia. Para la IA, el equilibrio entre automatización y supervisión humana es clave, pero hay un giro: mientras en el trading los datos son públicos, en sistemas como reconocimientos faciales o préstamos automatizados los datos suelen ser sensibles (gizlilik) y sesgados. Aquí, copiar el modelo de "algoritmo + revisión humana" funciona, pero añadir *explicabilidad* (como en los modelos de *logistic regression* frente a cajas negras de deep learning) ayuda a que incluso los desarrolladores entiendan por qué una decisión se tomó. La diferencia es que en finanzas el enfoque era proteger al mercado, mientras que en IA el objetivo es proteger a las personas.