Impacto de la Inteligencia Artificial en la familia

Las conclusiones generadas por los sistemas de IA no son necesariamente
objetivas o neutrales, ya que dependen de cómo se han entrenado estos sistemas y
de los criterios que se les han dado para definir lo que constituye una vida familiar
«normal».
Algunos servicios sociales, instituciones judiciales y proveedores de atención
médica han comenzado a utilizar algoritmos para analizar la dinámica familiar, los
hábitos de consumo, los patrones de geolocalización y la actividad en las redes
sociales para predecir riesgos como el abandono infantil, la ruptura matrimonial o la
inestabilidad económica. Basándose en estos datos, estos sistemas pueden
clasificar a las familias según su nivel de «estabilidad», lo que influye en el acceso a
las prestaciones sociales, los préstamos bancarios, las hipotecas o los seguros
personales.
Estas prácticas plantean serios problemas éticos. Los modelos de IA pueden
etiquetar erróneamente a determinadas familias como «de alto riesgo», perpetuando
los sesgos estructurales, los estereotipos sociales y la discriminación por motivos de
clase, género o etnia. Un ejemplo notorio se produjo en los Países Bajos, donde un
algoritmo secreto utilizó criterios discriminatorios para acusar falsamente a miles de
familias de fraude fiscal. En Estados Unidos, herramientas como eScore también
han sido acusadas de basarse en datos potencialmente discriminatorios para
evaluar la solvencia de las familias.
Además, muchas aplicaciones de control parental utilizan la IA para supervisar los
mensajes y la actividad en línea de los adolescentes. Aunque se comercializan
como herramientas de protección, a menudo crean desconfianza entre padres e
hijos y difuminan la línea entre la protección afectuosa y la vigilancia absoluta.
Aplicaciones como Bark o mSpy, que incorporan funciones de reconocimiento de
voz y geolocalización, pueden utilizarse fácilmente para ejercer una vigilancia
encubierta dentro del hogar.