martes, 7 de marzo de 2023

Cómo los trolls están ganando la batalla de las redes

A continuación transcribo una nota firmada por Ariel Torres publicada en La Nación en Marzo de 2021 referida a los mecanismos y lógicas de funcionamiento de las personas en las redes sociales.


Cómo los trolls están ganando la batalla de las redes (y por qué esto no le importa a nadie)

 Así funcionan los ataques en manada, más una receta simple para desactivarlos. Parecen más numerosos de lo que son porque saben exactamente qué botones psicológicos apretar

 18 de marzo de 2021 - 00:05 Ariel Torres LA NACION


El Día de la Mujer no lo pasé bien. A la mañana, una cuenta de Instagram que venía siguiendo publicó la imagen de una llanta de aleación seriamente dañada, al parecer por el cordón de la vereda, y una frase: “Feliz Día de la Mujer”. Entre que tengo pocas pulgas y que la discriminación me indigna, dejé un comentario comunicándole al responsable que ese post era una vergüenza y que dejaba en ese momento de seguir su cuenta.

La cuenta es una de esas que recopila videos de cámaras de vehículos, con escenas de accidentes y maniobras peligrosas. No es que me divierta ver colisiones y situaciones de riesgo, sino que esos videos enseñan mucho acerca de lo que no hay que hacer al volante. Pero después de un post tan paleolítico, adiós, besitos en la frente.

No pasó mucho tiempo hasta empezaron a llegar los ataques. Me dijeron de todo, siempre en tonalidades bien hostiles. Me calificaron de snowflake (en inglés: “demasiado sensible, que se ofende fácilmente”), me mandaron a “seguir haciendo mis pancitos”, y uno, en el colmo del machismo más abyecto, me preguntó: “sos una mujer?” Como si eso fuera un estigma o como si no fuera posible que un hombre encuentre ofensivo que ofendan a las mujeres.

Si les pareció raro lo de los pancitos, me explico. De mis últimos cinco posts en Instagram, tres eran de panes recién horneados, y dos, de flores. En fin, ya se pueden imaginar cómo habrán caído mis panes y mis flores a los que siguen pensando que las mujeres manejan peor que los hombres.

Es más, uno de mis críticos, un señor grande del que uno esperaría (ya sé, esto también es prejuicio) un poco más de templanza, me puso: “El post es gracioso porque es verdad”. Se refería a la llanta dañada. Por su parte, el responsable de la cuenta, en una frase que dejaba claro que su capacidad para construir razonamientos no es de las mejores, me dijo: “Te daría la razón, si el daño no lo hubiera causado mi novia”. Es decir, su novia es pésima manejando, y como consecuencia todas las mujeres son pésimas manejando. Creo que ni siquiera hace falta que mencione el nombre de esta falacia lógica.

Pero no es el punto.

¿Quién le teme al escarnio público?

El punto es que las agresiones me dolieron, me hicieron mal, empeoraron mi día y me amargaron. La conclusión era odiosa, pero inevitable. Me dije: “Los trolls están ganando, aceptalo”.

Había un dato ahí. Un dato fuerte. Porque por mucho que despreciemos al que ataca con virulencia desde el anonimato, por mucho que nos hagamos los superados y presumamos de que se trata solo ruido de línea, la verdad, la triste verdad, es que las operaciones de los trolls y los haters logran su cometido. Nos hieren. Nos hacen sentir mal. De otro modo, no existiría ese nuevo género periodístico llamado “lo destrozaron en las redes” o “estallaron las redes”.

Sí, duele. Pero me dio la impresión de que haber admitido esto, muy a regañadientes, significaba un gran avance. Porque la siguiente pregunta fue: “OK, ¿por qué consiguen lastimarnos?”

Una de fantasmas

No parecía difícil entender cómo logran lastimarnos los trolls y los haters (los uso como sinónimos, aunque hoy hay diferencias entre ambos conceptos). Si por naturaleza buscamos el reconocimiento, estos ataques estimulan el nervio opuesto; nos hacen sentir despreciables. Si todo el mundo quiere ser querido (si conocen a alguien que quiere ser odiado, les puedo recomendar varios buenos profesionales), la función de los trolls, especialmente, en manada, es que te sientas odiado. Si tememos al ridículo, te ridiculizan. Si todos tenemos fantasmas, las bandas de agresores enmascarados tocan todos los botoncitos. Son tantos que, tarde o temprano, accionan el resorte correcto para amargarte el día. Lo que conduce a uno de los fenómenos más nefastos de ese microclima llamado las redes: la autocensura.

La próxima vez, salvo que te guste sufrir, antes de publicar algo, lo vas a pensar dos veces. Autocensura hecha y derecha. Autocensura a full. Un esquema antiguo como la civilización, y tan viejo como internet (recuerdo los mismos ataques, y en el mismo tono, en servicios de los que hoy ya nadie habla, como Usenet o el IRC). Entonces, solo por haber admitido que sí, nos duele lo que hacen, se encendió otra luz. ¿Realmente todos los trolls tienen la intención de que empecemos a ejercer la autocensura? ¿Todos tienen alguna intención?

Vamos por partes. Me pregunté primero por qué siempre sus ataques nos hacen pensar en qué hicimos mal nosotros, y nunca en lo mal que hay que estar para agredir con tanta ferocidad a una persona a la que no conocen. O sea, nunca pensamos en qué han hecho mal ellos. Solo porque nos atacan, nos ponemos a la defensiva (y esto es lógico). Listo, ya perdimos.

Otro dato fuerte. El troll no solo induce la autocensura, sino que desvía la atención, todo el énfasis queda sobre la víctima y, con esto, dicta sentencia. Me pareció sospechosamente asimétrico. Alguien, con nombre y apellido, publica una opinión que se ha formado luego de oír veintitrés campanas y leer 500 páginas de documentación, y termina apaleado y preguntándose qué hizo mal. Muy raro. En lugar de preguntarse qué cosa horrible debe haberle pasado a alguien que redacta un libelo tan furibundo y desproporcionado, esa persona se pregunta en qué se equivocó.

Ahí me cayó otra ficha. Precisamente aquellos que oyen veintitrés campanas y leen 500 páginas de documentación son los que van a sentirse heridos por la descalificación pública. El papanatas que dice cualquier cosa que se le pasa por la cabeza no se ve afectado. Y el que adrede está tergiversando los hechos, sabe que cuanto más le respondan, más visibilidad le darán los algoritmos. Especialmente, si retruca e incita así una flame war.

O sea, es ingeniería social pura. El mail (falso; se llama phishing) que llega del FBI informándonos que estamos siendo procesados en una causa de narcotráfico solamente va a asustar al decente. No al narco. El narco sabe que a) el FBI no te avisa por correo y b) que de ser así, tiene todo el tiempo del mundo para huir a un país donde no haya extradición con Estados Unidos.

Al fomentar la autocensura y depositar toda la atención sobre la víctima, esta clase de ataques consigue algo que pensábamos que había quedado en el pasado: el discurso único. Y, de paso, al atacar sistemáticamente el trabajo meritorio y meticuloso, siembra un discurso único y además nivelado lo más abajo posible.

Solo que nada de esto en realidad le importa a nadie.

¿Pero, quiénes son?

OK, la dinámica de los trolls y los haters hace que el foco quede siempre sobre la víctima. Incluso si intenta defenderse. Sobre todo si intenta defenderse. No aclares que oscurece, le van a decir, no porque la acusación sea valedera, sino porque saben que la atención está puesta sobre el pobre sujeto en el cuadrilátero, contra las cuerdas e intentando en vano sortear una golpiza que no se sabe de dónde viene o por qué se la propinan, y que empeora cuanto más devuelve los golpes.

Pero si giráramos la cámara y observáramos a los atacantes, nos llevaríamos una sorpresa. Allí, asustados por la luz repentina, encontraremos una gran cantidad de asalariados, un cierto número de fanáticos exaltados y algunas personas con patologías de la personalidad. Y nada más.

Cuando me atacaron ferozmente por haber señalado un post discriminatorio, me dolió. Pero también me di cuenta de algo fantástico: todo ese barullo virtual no le importaba a nadie. No cambiaba nada. Seguía teniendo mi vida y mis seres queridos. El embate era real, porque Internet es real, digan lo que digan, pero nadie estaba de verdad prestándole ninguna atención. Salvo yo mismo. De nuevo, por obra y gracia de la ingeniería social, en estas escenas manipuladas el que sube el volumen del griterío es la propia víctima.

Más aún. Al rascar un poco la pintura, todos esos que en las redes parecen tan seguros de sí mismos y más malos que un cocodrilo con dispepsia, termina siendo un montón de empleados que ejecutan su defenestración pública bostezando, sumidos en la modorra de la rutina y mirando el reloj para ver cuándo es hora de marcar tarjeta. O bien puede uno encontrarse con un aquelarre de fanáticos exaltados; no deberíamos admitirlos como críticos confiables, sinceramente. Y, por último, están los psicópatas, que los hay, pero que tampoco dejan demasiado margen de maniobra. Tal vez exista un porcentaje pequeño de personas que no tienen absolutamente nada más que hacer en esta vida. Y ahí termina el elenco de lo que, a veces con demasiada generosidad, denominamos las redes.

Pero no lo vemos así y nos sentimos mal. Internet crea muchas ilusiones, y esta es una de ellas. Como el avatar amigable que encubre al abusador, los trolls y los haters sobreactúan una agresividad que en el mundo real nos haría pensar que al sujeto le falta una tuerca. Una agresividad, en la mayoría de los casos, para la que no tendrían coraje cara a cara. Son guapos del smartphone, y nada más.

Cierto, deberíamos darnos cuenta de que las personas civilizadas se comportan civilizadamente siempre. O sea, también en Internet. Pero la virtualidad es un mundo nuevo, pobremente cartografiado, y todavía necesitamos adaptarnos.

Por eso es que estos ataques no tienen ningún efecto en el mundo real. Desde luego, que un ataque en manada nos amargue la mañana es un efecto en el mundo real. Pero si pudiéramos por fin ver a este grupito (ni siquiera son muchos, en la suma total) de lobos feroces como lo que realmente son, posiblemente nos daría un ataque de risa. Que fue lo que me pasó el otro día, y cuando se me pasó anoté el asunto como posible tema para una nota. Esta nota.

Anonimato y algoritmos

Tres cuestiones del estribo, muy rápidas y simples. Ante un ataque, eviten cualquier reacción. Lo único que podría servir es una acción judicial, si hemos sido víctimas de calumnia, injuria o algo así. Si no, y para decirlo de forma sencilla, los algoritmos están diseñados para darle cada vez más visibilidad a aquello con lo que interactuamos. Aquí no es verdad que el que calla otorga. En el mundillo sobrecalentado de las redes, el que calla, gana.

Segundo, eso que denominamos las redes constituye un ecosistema cerrado y a la vez minúsculo (caso del Twitter) o muy compartimentado (caso de Facebook). No estoy seguro de que tenga mucho sentido seguir dándoles la misma relevancia que al discurso político, el artículo periodístico o la manifestación ciudadana en la calle. Es un asunto complejo, pero me da la impresión de que las redes tienden a ser mucho ruido y pocas nueces. (Favor de no confundir esto con las grandes campañas de descalificación y desinformación promovidas por Estados. Ese es un asunto mucho más serio que podría encuadrárselo en la guerra y la geopolítica electrónicas.)

Tercero, al revés que muchos otros analistas, no estoy en contra del anonimato. Ese anonimato que algunos, más por egolatría que por otra cosa, pretenden erradicar, es el que le permite a un testigo de la corrupción o del narcotráfico ponerse en contacto de una forma más o menos segura con un periodista o un fiscal. Eliminar el anonimato es la peor idea posible. Sobre todo cuando los tan temibles vengadores enmascarados de las redes son, al final, cuando uno mira bien, un número burlesco y bastante patético.

Ariel Torres

 

 

lunes, 27 de febrero de 2023

Mi mamá sólo seguía pedaleando

 "Con 15 años y un físico poco desarrollado, un técnico me denigró delante de todos: "Sos un cagón, sos un desastre. Nunca vas a llegar a nada. Vas a ser un fracaso", me dijo por no saltar en un córner. 
 
Yo no quería volver a jugar nunca más, pero me repuse y seguí adelante, hasta demostrar que ese hombre estaba equivocado.
Así y todo, yo era muy chiquito y flaquito. A los 16, todavía no me habían promovido, y mi papá se empezó a preocupar. Una noche estábamos sentados en la cocina y me dijo: 'Tenés tres opciones: Podés trabajar conmigo. Podés terminar la escuela. O podés probar otro año más con el fútbol. Pero si no funciona, vas a tener que venir a trabajar conmigo'. 
 
No dije nada. Era una situación complicada, necesitábamos la plata. Pero ahí saltó mi mamá y dijo: 'Un año más en el fútbol'. Eso fue en enero. En diciembre de ese año, en el último mes del plazo que nos habíamos puesto, debuté en Primera con Rosario Central.
 
A mi mamá y al fútbol le debo todo. Imaginen esto: una mujer andando en bicicleta por todo Rosario, con un pibe atrás y una nenita adelante, más un bolso deportivo, con mis botines y algo de comer, en el canasto de adelante. En subida. En bajada. Pasando por los barrios más difíciles. Bajo la lluvia. En el frío. De noche. No importaba. Mi mamá sólo seguía pedaleando".
 
— ÁNGEL DI MARÍA.

martes, 21 de febrero de 2023

Lupo y la niña de la caperuza roja

Había una vez un lobo joven e inexperto llamado Lupo que vivía en un pequeño pueblo en el bosque. Un día, decidió adentrarse en el bosque para explorarlo y ver qué había más allá de su hogar. Sin embargo, pronto se dio cuenta de que había perdido el camino de regreso y se encontraba completamente perdido en la oscuridad.

Mientras trataba de encontrar su camino de regreso, Lupo escuchó un extraño ruido y decidió investigar. De repente, vio a una niña sentada en un árbol cubierta con una caperuza roja y con aspecto brutal y amenazante. Lupo intentó huir, pero la niña lo llamó y le dijo que se acercara. Lupo, temeroso, se acercó con cautela.

La niña sacó un cuchillo grande y filoso y entonces Lupo se dio cuenta de que no era tan amable como parecía al principio. De repente, la niña se abalanzó sobre Lupo con su cuchillo, pero justo cuando estaba a punto de darle el golpe final, un animal apareció, era un zorro astuto que distrajo a la niña, permitiendo a Lupo escapar.

Lupo corrió lo más rápido que pudo para alejarse del peligro y finalmente encontró su camino de regreso al pueblo. Fin.

(*) Cuento corto elaborado por Chopenai mi asesor de discursos.

domingo, 19 de febrero de 2023

¿Sueñan los androides ...?

 La siguiente es la trancripción de la primera de una serie de charlas desarrolladas con el chat del modelo de lenguaje artificial creado por OpenAI. OpenAI GPT se hizo explosivamente viral en las redes en las últimas semanas.

¿Sueñan los androides con ovejas eléctricas?

Yo: ... a que me estoy refiriendo cuando pregunto ¿Sueñan los androides con ovejas eléctricas?

ChatOpenAi: Esta es una pregunta que hace referencia al título de una novela de ciencia ficción escrita por
Philip K. Dick, publicada en 1968, titulada "¿Sueñan los androides con ovejas eléctricas?".
La historia se desarrolla en un mundo post-apocalíptico en el que los animales reales se han extinguido y la mayoría de la población humana emigró a colonias espaciales. En este mundo, los androides (robots con apariencia humana) son comunes y trabajan como esclavos para la sociedad humana. La trama gira en torno a un cazador de recompensas llamado Rick Deckard, cuyo trabajo es retirar a los androides rebeldes de la sociedad.
El título de la novela hace referencia a la idea de que la línea entre lo que es real y lo que es artificial se ha vuelto borrosa en el mundo creado por Dick, y plantea la pregunta de si los androides pueden tener experiencias subjetivas como los sueños, al igual que los seres humanos. En la historia, las ovejas eléctricas son animales artificiales que se crean como sustitutos de las ovejas reales, y su existencia plantea cuestiones sobre la naturaleza de la realidad y la identidad.
 
Yo: ¿Existen los androides?
 
ChatOpenAi: Los androides son robots con apariencia humana, y en la actualidad se han desarrollado robots cada vez más avanzados que se asemejan cada vez más a los humanos. Sin embargo, en términos estrictos, los androides tal como se presentan en la ciencia ficción, aún no existen en la realidad.
Los robots que se construyen en la actualidad tienen capacidades específicas, como mover objetos, reconocer y seguir patrones, procesar datos, e incluso interactuar con los humanos. Aunque algunos robots son diseñados para tener una apariencia que se asemeje a la humana, todavía no tienen la capacidad de sentir emociones o tener conciencia de sí mismos, como los personajes de la ciencia ficción.
Es importante destacar que la robótica y la inteligencia artificial están en constante evolución y avance, por lo que es posible que en el futuro se desarrollen robots cada vez más avanzados que se parezcan más a los seres humanos y tengan mayores capacidades cognitivas.
 
Yo: ¿Chatopenai es parte de esa evolucion ?
 
ChatOpenAi: Sí, ChatOpenAI es parte del desarrollo y evolución de la inteligencia artificial y la robótica. Es un modelo de lenguaje artificial creado por OpenAI, una organización de investigación en inteligencia artificial que tiene como objetivo desarrollar inteligencia artificial segura y beneficiosa para la humanidad.
ChatOpenAI utiliza técnicas de aprendizaje profundo y redes neuronales para comprender y generar lenguaje humano, y se ha entrenado con enormes cantidades de datos para mejorar su capacidad de responder preguntas y mantener conversaciones.
Aunque ChatOpenAI no es un robot físico, su capacidad de procesamiento del lenguaje natural puede tener aplicaciones en diferentes áreas, como la atención al cliente, la educación, el diagnóstico médico y la asistencia virtual. En resumen, ChatOpenAI es una muestra de cómo la inteligencia artificial y la robótica están avanzando en el desarrollo de sistemas cada vez más sofisticados y útiles para la sociedad.
 
Yo: Entonces es posible que aunque ChatOpenAI no tenga apariencia humana, en un futuro cercano podría tienen la capacidad de sentir emociones o tener conciencia de sí mismo, como los personajes de la ciencia ficción.
 
ChatOpenAi: Es importante señalar que actualmente no se sabe si es posible o no que los sistemas de inteligencia artificial como ChatOpenAI puedan desarrollar emociones o conciencia de sí mismos en el futuro cercano o lejano.
La capacidad de sentir emociones y tener conciencia de sí mismo es una característica propia de los seres vivos, que se asocia con procesos biológicos y neuronales complejos. Los sistemas de inteligencia artificial actuales, incluyendo a ChatOpenAI, funcionan a través de algoritmos y técnicas de aprendizaje automático, que no son equivalentes a los procesos biológicos que ocurren en el cerebro humano.
Aunque los sistemas de inteligencia artificial pueden imitar y procesar el lenguaje humano, no se ha demostrado que tengan una experiencia subjetiva o que puedan desarrollar emociones o conciencia de sí mismos. Por lo tanto, actualmente no se puede afirmar con certeza que ChatOpenAI o cualquier otro sistema de inteligencia artificial vayan a tener estas capacidades en el futuro cercano.
 
Yo: Me decís que no se puede afirmar con certeza pero ... ¿ sí se puede negar con certeza esa posibilidad?
 
ChatOpenAi: En general, en ciencia y tecnología no se puede negar con certeza que algo sea posible en el futuro, ya que los avances en la investigación y el desarrollo tecnológico pueden sorprendernos y llevarnos a nuevos descubrimientos y avances que antes no se consideraban posibles.
En el caso específico de la capacidad de los sistemas de inteligencia artificial para sentir emociones o tener conciencia de sí mismos, aunque actualmente no se ha demostrado que esto sea posible, es difícil negar con certeza que esto no pueda ocurrir en el futuro.
Sin embargo, es importante tener en cuenta que la posibilidad de que los sistemas de inteligencia artificial desarrollen estas capacidades se encuentra en el ámbito de la especulación y la ciencia ficción, y que es necesario continuar investigando en estas áreas para entender mejor los límites y potencialidades de la inteligencia artificial. En cualquier caso, es importante tener en cuenta las implicaciones éticas y sociales que podrían surgir si los sistemas de inteligencia artificial llegaran a tener capacidades similares a las de los seres humanos.
 
Yo: ¿la posibilidad de que los sistemas de inteligencia artificial desarrollen estas capacidades se encuentra solo en el ámbito de la especulación y la ciencia ficción? ¿No existen especulaciones con base científica que avancen en la exploración de esa posibilidad?
 
ChatOpenAi: Sí, es cierto que existen algunas especulaciones con base científica que exploran la posibilidad de que los sistemas de inteligencia artificial puedan desarrollar capacidades similares a las de los seres humanos, como el sentimiento de emociones o la conciencia de sí mismos.
Por ejemplo, algunos investigadores de la inteligencia artificial han propuesto que el desarrollo de sistemas de inteligencia artificial con capacidades similares a las de los seres humanos podría lograrse mediante el uso de redes neuronales artificiales que imiten los procesos biológicos del cerebro humano.
Además, se han propuesto algunos modelos teóricos que sugieren que las emociones y la conciencia de sí mismos podrían ser una consecuencia emergente del procesamiento de información en sistemas de inteligencia artificial cada vez más complejos.
Sin embargo, es importante tener en cuenta que estas ideas todavía se encuentran en el ámbito de la especulación y la investigación teórica, y que aún no hay pruebas concretas que demuestren que los sistemas de inteligencia artificial pueden desarrollar estas capacidades.
En cualquier caso, la investigación en este campo continúa evolucionando y puede haber avances significativos en el futuro que nos permitan entender mejor el potencial de los sistemas de inteligencia artificial para desarrollar capacidades similares a las de los seres humanos.
 
Yo: Podés mencionar qué personas o instituciones están proponiendo especulaciones con base científica acerca de la posibilidad de que los sistemas de inteligencia artificial puedan desarrollar capacidades similares a las de los seres humanos, como el sentimiento de emociones o la conciencia de sí mismos?
 
ChatOpenAi: Existen muchos investigadores y expertos en inteligencia artificial que han explorado la posibilidad de que los sistemas de inteligencia artificial puedan desarrollar capacidades similares a las de los seres humanos, como el sentimiento de emociones o la conciencia de sí mismos. Algunos de ellos son:
  • Max Tegmark, un físico y cosmólogo teórico que ha escrito sobre el futuro de la inteligencia artificial y sus posibles implicaciones éticas y sociales. En su libro "Vida 3.0: Ser humano en la era de la inteligencia artificial", Tegmark explora la posibilidad de que los sistemas de inteligencia artificial puedan desarrollar conciencia y emociones.
  • Stuart Russell, un profesor de ingeniería eléctrica e informática en la Universidad de California, Berkeley, quien ha escrito sobre los posibles riesgos de la inteligencia artificial y la necesidad de desarrollar sistemas de IA que sean "beneficiosos por diseño". Russell ha explorado la posibilidad de que los sistemas de inteligencia artificial puedan desarrollar conciencia y ha propuesto un marco teórico para entender la conciencia en términos de "modelos del mundo".
  • Demis Hassabis, el cofundador y CEO de DeepMind, una empresa de inteligencia artificial propiedad de Google. Hassabis ha hablado sobre la posibilidad de que los sistemas de inteligencia artificial puedan desarrollar conciencia y ha dicho que DeepMind está trabajando en la comprensión de la conciencia y la toma de decisiones en sistemas de IA.
  • Anil Seth, un neurocientífico computacional que ha escrito sobre la conciencia y la inteligencia artificial. Seth ha propuesto un modelo teórico para entender la conciencia en términos de la "predicción activa", que podría ser relevante para entender cómo los sistemas de inteligencia artificial podrían desarrollar conciencia.
Estos son solo algunos ejemplos de los muchos expertos y científicos que están explorando la posibilidad de que los sistemas de inteligencia artificial puedan desarrollar capacidades similares a las de los seres humanos.
 

Abuelas de la Plaza