En nuestra presente realidad, la inteligencia artificial es cada vez mas común, el reconocimiento de objetos, el reconocimiento facial, incluso el perfilamiento policial, o las artificiales policías del pensamiento en las redes sociales como facebook o twitter, bots que rigen el comportamiento en la red de tantas maneras, no es de extrañar que nuestra vida pueda cambiar para bien gracias a estos avances tecnológico en la mayoría de los casos y sin embargo no podemos confiarnos del todo, pues si algo nos ha enseñado la historia es a desconfiar. No podemos confiar en las maquinas ni en los gobiernos para delegar toda nuestra vida, lo que nos ponen al frente de una responsabilidad sobre nuestros propios datos, pero de forma pasiva lo lo olvidamos y delegamos sin preguntarnos demasiado, ponemos nuestras fotos, nuestros pensamientos y cada paso que damos en publicaciones de Internet a veces demasiado personales, tu no sabes si en el futuro un régimen dictatorial pueda llegar a tu país y usar esa información contra ti.
Vivir en paranoia no es una actitud sana, pero puede pasar que tus datos lleguen de algún modo a inteligencias artificiales que no te convengan demasiado y por algún error de falsa bandera seas incriminado en algún delito informático o en alguna deuda impaga, quizás en temas de crédito social en los que la nueva internet pueda terminar convirtiéndote en un paria sin desearlo, la verdad es que el caos es inconmensurable y no podría decirte de cuantas formas una persona puede estar expuesta en internet a largo plazo.
Si bien el problema aún parece lejano no es mala idea curarse en salud, y para eso desarrolladores de diferentes partes del mundo están creando alternativas para envenenar tus datos personales a los ojos de las maquinas de aprendizaje.
Hoy les presento a 'Fawkes' varias personas relacionadas con la investigación en materia de inteligencia artificial (IA) están dando un paso atrás y desarrollando formas de asegurarse de que las IA no puedan aprender de los datos personales. Hace unos días se presentaron dos de las últimas ideas relacionadas con esto en ICLR, la conferencia líder en inteligencia artificial.
Evidentemente el nombre de este software está claramente inspirado en el que también se ha convertido símbolo de anonimato Guy Fawkes de V de Vendetta aunque su historia va mas allá de los comics.
'Envenenar' los datos no es nuevo destruir los que las empresas tienen sobre nosotros o contaminar los conjuntos con ejemplos falsos puede ayudar a dificultar que las empresas entrenen modelos precisos de aprendizaje. Pero estos esfuerzos indudablemente necesitan acciones colectivas, donde es necesaria la participación de probablemente miles de personas, para asi poder conseguir un impacto real.
La diferencia con estas nuevas técnicas es que funcionan con las fotos de una sola persona, que lo puedes usar con tus propias fotos antes de subirlas a la red y asi curarte en salud.
Aquí puedes ver en primer lugar como son las fotos originales y en el segundo como es una foto envenenada para la IA con fawkes. Es prácticamente indistinguible salvo por un leve cambio en el color.
Aparte de este software del que he puesto el link mas arriba, puedes adentrarte en investigaciones como 'Low Key' la cual va enfocada en extender este tipo de técnicas las cuales intuyo estaremos viendo mas seguido cada vez con el paso que las maquinas sean mas inteligentes.
También te recuerdo que hay una implementación online.
0 comments:
Publicar un comentario