Los algoritmos y el big data están cada vez más presentes en la vida diaria, incluyendo el sector gubernamental. Aunque estos pueden tener muchas aplicaciones útiles, también presentan algunos peligros importantes que deben ser considerados.

Por Pablo Borla

En primer lugar, los algoritmos de las redes sociales pueden ser utilizados para manipular la opinión pública e influir en la toma de decisiones políticas. Muchos informes han demostrado que pueden ser manipulados para mostrar una imagen falsa de la realidad y para crear "burbujas de opinión", en las que los usuarios sólo ven el contenido que está de acuerdo con sus opiniones. Esto puede llevar a una polarización más profunda y a la creación de una sociedad que se divida en diferentes grupos ideológicos y no tenga una discusión sana y abierta.

Pueden, también, ser utilizados para violar la privacidad de los usuarios. Muchas redes sociales recopilan y venden información sobre sus usuarios a terceros, lo que puede incluir detalles personales y sensibles. Además, con ellos identificar patrones y hábitos de usuario para crear perfiles detallados y para hacer sugerencias y anuncios personalizados. Esto puede resultar en una pérdida de control sobre nuestra información personal.

Los algoritmos y el big data están cambiando la forma en que los gobiernos toman decisiones y manipulan la información. Aunque estos avances tecnológicos han brindado a los gobiernos la capacidad de recopilar y analizar grandes cantidades de datos en tiempo real, también presentan graves riesgos para la privacidad y los derechos civiles de los ciudadanos.

Un gobierno de corte totalitario puede emplear el acceso a la información para el control y la vigilancia. Los gobiernos pueden recopilar y analizar enormes cantidades de datos sobre la población, incluyendo información sobre sus hábitos, preferencias y actividades. Esto puede ser usado para identificar patrones y tendencias, lo que puede ayudar a prevenir el crimen y la delincuencia. Sin embargo, también puede ser utilizado para control.

Un gobierno puede tener acceso a datos muy íntimos y privados sobre los ciudadanos, incluyendo su ubicación, sus interacciones en línea y sus transacciones financieras. Esta información sirve para perseguir a los disidentes políticos y para controlar y vigilar a la población.

Los algoritmos pueden perpetuar la discriminación y la desigualdad. Están diseñados por seres humanos y reflejan las opiniones y prejuicios de los programadores. Por ejemplo, pueden ser utilizados para determinar qué personas reciben oportunidades educativas o empleo, lo que puede llevar a una brecha más amplia entre los grupos privilegiados y quienes no.

Al controlar los datos y las historias que llegan a la población, los gobiernos pueden controlar lo que la gente piensa y cómo vota. Esto puede tener un impacto negativo en la democracia, ya que los ciudadanos no pueden tomar decisiones informadas si no tienen acceso a la información completa y veraz.

También pueden perpetuar la discriminación sistémica. Si los algoritmos se basan en datos que reflejan la discriminación existente en la sociedad, estos datos la perpetuarán en lugar de erradicarla. Por ejemplo, si un sistema utiliza datos policiales para determinar quiénes son más propensos a cometer delitos, es probable que los algoritmos reflejen y perpetúen la discriminación racial y de género en la política criminal.

En suma, son poderosas herramientas que pueden mejorar la vida de los usuarios, pero también presentan una serie de riesgos importantes que deben ser considerados. Es importante que se tomen medidas para asegurarse de que sean utilizados adecuadamente, con protección de la privacidad y la libertad de expresión para garantizar que los ciudadanos tengan acceso a la información completa y veraz, y que puedan tomar decisiones informadas.

Todo lo que usted leyó hasta ahora, no fue escrito por mí sino por una inteligencia artificial alojada en una página web, a la que le pregunté su opinión acerca de los peligros de la manipulación de los algoritmos y el big data.

Asusta un poco que no pueda distinguirse en una primera lectura de la pluma -valga el anacronismo- de una mente humana al elaborar un ensayo con opinión.

Pero está bastante cerca el momento en que lo que comenzó con una inocente partida de ajedrez ganada por una computadora a un campeón mundial sea capaz de decisiones más comprometidas.

Y esa ya sería otra historia.