Piense en cómo la tecnología puede ayudar a combatir la propaganda de los medios.

Fotógrafo: Arkady Shaikhet.

Introducción

Este artículo se puede dividir en dos partes lógicas. En el primero, considero el fenómeno de la propaganda mediática: qué es, por qué es peligroso y a qué cosas terribles ya ha conducido en la historia. Consideraré en detalle los mecanismos de trabajo de la propaganda estatal moderna en los medios de comunicación y trataré de entender por qué es tan eficaz y qué rasgos característicos tiene.



La segunda parte es una reflexión sobre cómo, a partir de los rasgos característicos discutidos en la primera parte, se puede intentar automatizar el reconocimiento de la propaganda en los medios. Dado que la propaganda es el impacto del texto (además de la imagen, por supuesto), y no tengo los conocimientos necesarios en el campo del procesamiento del lenguaje natural (Procesamiento del lenguaje natural), entonces mis cálculos son exactamente lo que pienso en voz alta. Describiré de forma más o menos estructurada las posibles funciones de un programa que debería buscar señales de propaganda en materiales mediáticos, pero sin especificidades técnicas.



Por lo tanto, diré de inmediato: no espere leer en el texto sobre algoritmos específicos y sus métodos de aplicación. Al contrario, seré honesto: espero encontrar entre ustedes a quienes comprendan tanto el desarrollo de complementos de navegador como la PNL y que reciban sus comentarios en los comentarios. Si muchas personas se infectan con mis ideas, ¡quizás podamos trabajar juntos en una solución de código abierto interesante!



Descargo de responsabilidad



Dado que no debería haber política en Habré, no entraré en detalles en el texto de cómo surgió la idea de crear este proyecto. Si alguien quiere saber sobre esto - especialmente, probablemente aquellos que quieran sumarse al proyecto - se lo diré en los comentarios o en forma personal. Imaginemos un Estado que los politólogos calificarían de "autoritario", es decir, en el que se suprimen las libertades personales de los ciudadanos, se comete fraude electoral, se persigue a la oposición, etc., e imaginemos que todo lo que se va a discutir además, se refiere a este Estado abstracto (aunque, dado el contexto cultural, por supuesto, los ejemplos serán principalmente de nuestras realidades postsoviéticas). Por qué me concentro en la propaganda estatal, lo explicaré más adelante.

¿Qué es la propaganda y por qué es peligrosa?

Fotógrafo: Elliott Erwitt

Uno de los pilares eternos de los estados autoritarios es la poderosa propaganda estatal. Escuchamos sobre este fenómeno con bastante frecuencia, pero ¿cómo es?



El autor de propaganda estadounidense Edward Bernays en 1928 definió la propaganda como "un esfuerzo constante e incansable para crear o dar forma a eventos con el objetivo de influir en las actitudes del público hacia una iniciativa, idea o grupo". En otras palabras, este es un intento de manipular la opinión pública. Es interesante que en el derecho internacional todavía no existe una definición unificada del concepto de "propaganda" debido a que es muy difícil trazar una línea clara entre las manifestaciones de la libertad de expresión y la propaganda sistemática, dado que muchos regímenes autoritarios, con diversos grados de éxito, pueden pretenden ser democracias "defectuosas". Sin embargo, organizaciones como la OSCE distinguen entre 2 tipos de propaganda:

1. , , , , , . – , , . « ».
2. , , .

Este es un punto muy importante, vamos a arreglarlo: hay propaganda para la guerra que usa discursos de odio y otra propaganda política . Volveremos a esta división, así como a una definición más precisa de discurso de odio más adelante. Mientras tanto, intentemos responder a la pregunta de por qué la propaganda es un peligro para la sociedad.



La historia conoce varios ejemplos trágicos de cómo la propaganda logró despertar el sentimiento de odio en las personas, que desembocó en guerras y genocidios. El ejemplo del Tercer Reich nazi es tan famoso que no veo razón para detenerme en él por separado. Otro ejemplo es el genocidio de Ruanda, durante el cual los hutus mataron y violaron a cientos de miles de tutsis durante tres meses; un año antes de estos hechos, la estación de radio "Radio y Televisión Libre de las Mil Colinas" comenzó a instar a los oyentes a exterminar cucarachas (el nombre despectivo de los tutsi) y se entregó al humor racista, y con el inicio del genocidio comenzó a pronunciar las direcciones de personas específicas a quienes, en su opinión, era necesario matar ... La estación de radio privada Thousand Hills recibió fondos de otra estación de radio estatal,y sus empleados eran exclusivamente hutu. A lo largo de los años, el economista de Harvard David Yanagizawa-Drott realizóestudio en el que pudo comprobar la influencia de la propaganda radial en la escala de la tragedia comparando el nivel de señal en cada punto del país con el número de personas condenadas por genocidio en esos puntos.



Otro ejemplo de la influencia de la propaganda en el curso de la historia son las guerras yugoslavas. Numerosos estudios sobre el papel de los medios de comunicación en el conflicto de la ex Yugoslavia han demostrado que los medios de comunicación al servicio del régimen han contribuido a la incitación a la guerra y al odio. Mark Thompson en su libro " Forging War » (Forjando la guerra) escribió que " la violencia verbal conduce a lo físico ". El periodista italiano Paolo Rumiz también escribió en su libro " Máscaras para la masacre " (Máscaras para una masacre), que "en 1988 la guerra estaba en titulares y artículos".



Todos estos son ejemplos extremos, cuando la propaganda llamaba casi directamente a la masacre y destrucción de otro pueblo o grupo social. Pero es obvio que la propaganda no siempre es tan sencilla y no siempre persigue precisamente esos objetivos. Entonces, ¿por qué es peligroso y dañino?



El periodismo tiene un objetivo frente a sí mismo: comprender e informar a los ciudadanos sobre los resultados de sus investigaciones sobre las acciones del estado u otros. La propaganda no solo quiere informar, sino inspirar algunas ideas. Manipula a los ciudadanos para que no se comporten conscientemente, guiados por sus propios intereses, sino que actúen en interés del manipulador (por ejemplo, el estado), es decir, voten por el candidato o decisión “correcta”, o ignoren problemas obvios y no hagan preguntas innecesarias a las autoridades. En las condiciones de la libertad de expresión, todo esto no parece algo terrible, pero en un estado autoritario, además de la propaganda, las autoridades tienen otras palancas, como la presión sobre los medios independientes, la afiliación de los magnates de los medios con el gobierno y la posibilidad de un fraude electoral masivo.como resultado, el efecto propagandístico aumenta muchas veces. Además, la propaganda a menudo logra sus objetivos buscando enemigos ilusorios, externos o internos, y apelando no a la razón y la lógica, sino a los sentimientos (ver el término “posverdad ”), y debido a estos dos factores, la propaganda estatal a veces se tambalea al borde del“ discurso de odio ”.



Además, como veremos más adelante, la propaganda estatal moderna es condenadamente eficaz, ya que cuenta con un gran arsenal de medios y canales. Un peligro especial es que, al encontrarse en un flujo interminable de información, incluso los medios de alta calidad a veces pueden captar información falsa liberada deliberadamente en el espacio de los medios por manipuladores. Algunos ejemplos de los últimos años: la información errónea sobre los planes de la UE para abolir las visas para los hombres ucranianos se mencionó con tanta frecuencia en los medios de comunicación ucranianos que las autoridades del país en algún momento se vieron obligadas a hacer una refutación oficial, y poco antes de eso, los medios alemanes recogieron información falsa sobre las atrocidades en al este de Ucrania.

? ?

Christopher Paul y Miriam Matthews, expertos de la ONG RAND Corporation, respondieron muy bien a estas preguntas. Con la propaganda estatal rusa en mente, afirman en su informe que "la nueva propaganda rusa entretiene, confunde y escandaliza a la audiencia". Y explicaron su eficacia con las siguientes cualidades: " Es operacional, continuo, ilógico y utiliza el principio de repetición múltiple ". Analizaron cada una de estas características:



1. Operacional

2. Continua

3. No lógica

4. Utiliza el principio de repetición.



Repasemos cada uno de estos puntos y consideremos los mecanismos descritos por los autores del informe para la influencia de la propaganda en los destinatarios de la información.



Operatorio



Los defensores son muy rápidos en “hacer” material porque no necesitan tiempo para verificar hechos, recopilar opiniones de diferentes campos políticos, etc. (aunque a veces se necesita tiempo para determinar la actitud ante determinados eventos). El hecho es que es más probable que una persona crea el primer mensaje recibido sobre el tema y, en el futuro, cuando aparezcan mensajes contradictorios, tenderá a favorecer el punto de vista del mensaje recibido primero. Además, la influencia del primer mensaje en la forma de pensar puede persistir incluso si se recibe una refutación en el futuro. Somos como un algoritmo que una vez aprendido algo, solo puede desaprenderlo con gran dificultad.



Continuo



La propaganda agita los mensajes como una verdadera infofabricación, sin dejar huecos en el flujo de mensajes. Los destinatarios obtienen una imagen continua de todo lo que sucede a su alrededor. Esta continuidad obtiene una eficacia adicional gracias a la naturaleza multicanal de la propaganda moderna. Después de todo, todo el mundo ha escuchado historias de un par de canales de televisión y sitios de propaganda, pero de hecho, los sitios y canales de telegramas que promueven la "línea del partido", según los autores del informe, decenas. Y este enfoque multicanal es muy útil para que la propaganda logre sus objetivos debido al hecho de que las personas tienden a creer que la información recibida de diversas fuentes probablemente se base en diferentes puntos de vista y, por lo tanto, merece atención. Dado que estos canales juntos tienen una gran cobertura, los destinatarios encuentran ambos en su entorno,y en Internet hay mucha gente que aprueba esta información, por lo que aumenta la fiabilidad de esta información a los ojos del destinatario. Además, hay otro efecto interesante: cuando el interés del consumidor por la información es bajo (es decir, cuando el consumidor no tiene el tiempo y las ganas de comprender la información), la credibilidad del mensaje depende más de la cantidad de argumentos en su defensa que de su calidad.



La propaganda usa otro error de nuestro cerebro: recibe su dosis de dopamina cada vez que hacemos clic en el botón de reproducción de un video en Youtube, y es muy fácil de "agregar" al consumo de contenido de video y ver feeds de redes sociales. Una persona se encuentra en un estado de fluidez, del cual es muy difícil salir. Es solo que alguien se acostumbra a ver entrevistas, series o videos cortos, y alguien: publicaciones sobre temas políticos y programas de entrevistas.



Ilógico



La propaganda sabe cómo cambiarse de zapatos sobre la marcha, pero esto no afecta de ninguna manera a quienes ya se asocian con los canales de propaganda de información. También juega un papel en el hecho de que las personas, por regla general, son demasiado perezosas para entender la información, y en el hecho de que las personas simplemente olvidan que el presentador de televisión dijo hace unas semanas algo exactamente lo contrario, y que si el destinatario un día comienza a confiar en una determinada fuente, luego deja de ser crítico con la información que difunde.



Utiliza el principio de repetición múltiple



Como ya entendió, la propaganda explota varios errores interesantes en nuestro pensamiento. Uno de ellos es el "efecto de verdad ilusorio". Es más probable que las personas perciban que una declaración es cierta si la han escuchado antes que si fuera un mensaje completamente nuevo. El efecto de la verdad ilusoria se deriva del hecho de que las declaraciones repetitivas se aceptan más fácilmente y se aceptan como verdaderas. Un detalle interesante de los autores del informe: " Incluso en el caso de historias ridículas y leyendas urbanas, quienes las han escuchado muchas veces tienden a creerlo ".

¿Cómo puedes interceptar la primera impresión?

Fotógrafo: Rene Maltete



Entonces, analizamos la teoría de la propaganda, entendimos por qué es peligrosa y por qué es efectiva. Imagínense miles, si no millones, de sus conciudadanos, a quienes día tras día les explican a quién amar y elegir, y a quién odiar y perseguir; es obvio que tal situación no es saludable para el estado, porque los ciudadanos deben tomar sus propias decisiones basándose en sus propias convicciones. formado sobre hechos veraces. Me metí en tal situación. Y, como programador, quería hacer algo con mis propias manos.



Me enganchó particularmente el hecho de que la propaganda intenta crear una primera impresión y lo logra a través de su naturaleza multicanal, al menos en línea. Inmediatamente me imaginé a una persona que, después de un arduo día de trabajo, se conecta a Internet, abre noticias en su navegador y abre un portal al flujo de conciencia de hábiles manipuladores. Y fue entonces cuando me di cuenta de que la forma más fácil de interceptar la primera impresión, o más bien de evitar que los propagandistas la creen, es crear una extensión para un navegador web que pueda analizar materiales en tiempo real. Abrí una página web - recibí análisis con advertencias: aquí, allá y aquí - ¡signos característicos de la propaganda!



Varias otras teorías de la sociología y el campo de los estudios de medios hablan a favor del desarrollo de dicho complemento.

1. , (“agenda-setting theory”), – , (, ). , , , . , , , . , – , . , , . (, check-list; ).
2. (Eli Pariser) « » („filter bubble”), , , ( ) . - , , . , , , . , , , « » („confirmation bias“): , . « » . , - , , ( «-», “echo chamber”). , , , , , . ( ).

. – . , - – - , .



, , . . NLP (Natural Language Processing), . - - - , : , - . , ,

1. ;
2. .

, ( ), , , .

, , , , . – « » « » ( «, »). , , - .

Bueno ... así es como debería funcionar de alguna manera.



Evidentemente, existen diferentes formatos de medios: retransmisiones de texto, reportajes en vídeo, canales de telegramas analíticos y programas de entrevistas. Y cada formato tiene sus propias características, que probablemente deberían tenerse en cuenta. ¿O no? De cualquier manera, sugiero comenzar con un formato simple: artículos (es decir, textos) en sitios de noticias. La persona abre el sitio y comienza a leer los textos en este sitio. Ponte en su lugar: ¿a qué debe prestar atención? ¿Cómo puede entender exactamente lo que tiene delante, un intento de manipulación?



He desarrollado una metodología que no pretende ser completa, pero que debería cubrir una parte esencial de las características formales de la propaganda. Es imposible formalizar todo, y este punto lo discutiremos más adelante. Pero muchos de los signos se pueden encontrar como humanos, y es muy posible que los algoritmos puedan hacer frente a esta tarea.



He dividido todas las reglas para los signos de propaganda en los textos de noticias en varias categorías lógicas.

Calidad de alimentación del material

Esta categoría contiene varias reglas a las que debe adherirse el periodismo de noticias.

¿Se dio el contexto?

Significado : al final de un texto de noticias, a menudo puede encontrar una breve descripción de los eventos que precedieron al evento. Por ejemplo, si la noticia contiene extractos de la última entrevista de Trump, entonces al final se suele explicar que la carrera presidencial se está llevando a cabo actualmente en Estados Unidos y, según encuestas sociológicas, hasta ahora el liderazgo está con otra persona, y esa persona piensa así.



Crítica : No todos los eventos tienen un contexto, algunos de ellos simplemente ocurren. Por ejemplo, la explosión en Beirut.



Automatización :

• Pueden ser palabras con viñetas, como "recuerda eso".
• Puede intentar automatizar la extracción del significado principal de los artículos de la publicación y mantener estas tesis principales durante algún tiempo. Cuando aparecen nuevos artículos, los últimos párrafos también se reducen a las tesis principales, y en la base de datos de publicaciones pasadas de esta edición se realiza la búsqueda de las tesis más similares. Si no se encontró ninguno, entonces el evento es completamente nuevo o no se proporcionó el contexto.
• Dado que no todos los eventos pueden tener un contexto, la ausencia del mismo al final del artículo no es un criterio estricto, y si hay una supuesta ausencia de contexto, se debe mostrar una advertencia, no una "alarma".

Disponibilidad de fuentes

Significado :

• Una regla general: si hay noticias, entonces debe decirse de dónde provienen las noticias; después de todo, las noticias siempre tienen alguna fuente.
• Si el artículo contiene un enlace a alguna fuente de información (por ejemplo, un político u otro medio de comunicación), se debe proporcionar un hipervínculo.

Crítica :

• ¿Qué hacer con las fuentes anónimas (sin las cuales no puede existir el periodismo)? ¿Qué hacer con el periodismo de investigación (que tiene un formato diferente al de las noticias)?
• Es posible que no todas las fuentes tengan sus propios sitios. O, en teoría, es posible una situación en la que la información se transmita por televisión, pero no por Internet. Ambos factores pueden dificultar los hipervínculos.

Automatización :

• El algoritmo debería poder determinar la presencia de fuentes de información en el texto. Ya sea por palabras clave: "informado", "dicho" o utilizando técnicas de PNL.
• Comprobar hipervínculos es fácil;
• , , ?
• , (, ) .

Significado : si el artículo se traduce en su totalidad o en partes, ¿se hizo la traducción correctamente?



Crítica : Es casi imposible evaluar automáticamente la exactitud de una traducción. Dado que la manipulación puede ocultarse en la elección de palabras individuales, necesitamos un algoritmo que sea muy sensible a los matices más pequeños de conceptos que, según tengo entendido, todavía no existen. Esto significa que no será realista encontrar este tipo de manipulación en la traducción. Pero lo que realmente se puede descubrir es si el artículo original realmente contenía una tesis similar a la de la traducción (¿o fue completamente inventada?).



Automatización : traducir el texto original al idioma de destino, o viceversa, a través de una llamada a alguna API, y comparar los dos textos por proximidad semántica (¿espero haberlo llamado correctamente?).

Análisis de contenido

Esta categoría contiene acciones que se pueden aplicar además de las enumeradas en el primer párrafo.

Si hay un conflicto: ¿se ha escuchado a todas las partes?

Significado : el ejemplo más simple: si el presidente critica al opositor, sería bueno que el medio de comunicación le preguntara la opinión del opositor sobre este asunto.



Crítica: esta regla no siempre tiene sentido. Si el presidente en su conjunto dice sobre los manifestantes en las calles que son títeres de Occidente, entonces no está del todo claro a quién pedir opinión sobre este asunto, y si una respuesta a esta observación agregará valor informativo al material. Por lo tanto, uno debe tratar de formalizar esta regla de manera más rígida: por ejemplo, si una persona u organización en particular acusa a otra persona u organización en particular de algo específico, entonces realmente necesita pedir la opinión de la otra parte. Pero es posible que la reacción de la otra parte no se produzca de inmediato y se publique algún tiempo después, lo que nuevamente dificulta el cumplimiento de esta regla.



Automatización :

• Así como vamos a identificar automáticamente la fuente de información, necesitamos aprender a identificar a las partes en conflicto (si es posible algorítmicamente).
• Solo un pensamiento: ¿tiene sentido almacenar información sobre personas y organizaciones socialmente significativas en un gráfico social? ¿Para entender de quién esperar una respuesta?

Comparación: ¿cómo cubrieron otras publicaciones el mismo servicio de noticias?

Significado : compare el feed de eventos de esta publicación con el feed de otras publicaciones.



Crítica : para ser honesto, no veo ninguna debilidad. Si lo encuentra, dímelo.



Automatización :

• Seleccione las tesis o conceptos principales del texto y busque estas tesis o conceptos en otras publicaciones socialmente significativas (hablaremos por separado sobre cómo definirlas).
• Una solución más sencilla es sugerir palabras clave basadas en el análisis del texto, para lo cual el lector puede comenzar inmediatamente a buscar información adicional, por ejemplo, en Google News.

Análisis para manipulación

Si las categorías anteriores ofrecían algunos estándares de calidad para los materiales informativos, entonces en esta categoría hablaremos directamente sobre la manipulación intencional por medios expresivos.

Sesgo del informador

Significado : las acciones manipuladoras pueden ser cometidas no solo por los propios medios, sino también por quienes son citados por los medios. Por lo tanto, es bastante bueno saber lo que el sujeto dijo antes sobre los fenómenos de los que está hablando ahora.



Crítica : cualquier persona tiene un determinado conjunto de actitudes, valores y visiones del mundo, es decir, de hecho, cualquier persona está sesgada. ¿Le ayudará al destinatario el conocimiento de que Vyacheslav Volodin había atacado previamente a Occidente? Bueno, tal vez, usando el ejemplo de otras personas, sea útil pensar en sus actitudes y en lo flexibles que son. ¿Qué piensas?



Automatización : es posible mantener la relación entre actores en un gráfico social. Y debajo de los bordes de los gráficos, guarde las declaraciones pasadas de los sujetos entre sí.

Palabras de marcador

Significado : hay un montón de palabras que pueden delatar manipulaciones o lagunas en el argumento. Por ejemplo, palabras de expresión como "obviamente eso" o "todos sabemos eso".



Crítica : hay que tener en cuenta que es posible que en algunos contextos este tipo de expresiones sean adecuadas (“es obvio que la violencia es mala”). Por lo tanto, este criterio puede no ser estricto, sino suave (advertencia, no alarma). Además, el proceso de creación de una base de datos de palabras y expresiones similares puede ser bastante costoso en términos de esfuerzo (probablemente, necesite leer muchos textos).



Automatización : búsqueda por palabras (y sus declinaciones) y expresiones (y semánticamente muy cerca de ellas). La búsqueda se puede realizar tanto por las declaraciones de los informadores como por los textos en general.

Análisis de matices de palabras

Significado : llamé a esta función así porque este nombre transmite más de cerca su significado. ¿Hay alguna diferencia entre decir "los manifestantes tomaron las calles" o "los manifestantes llenaron las calles"? Muy a menudo, las manipulaciones consisten precisamente en el uso de cierto vocabulario, que probablemente se pueda llamar "evaluativo". Es decir, no se trata solo de una declaración del hecho, sino que se da inmediatamente una cierta valoración de este hecho.



Crítica : Esta debería ser una tarea difícil para el algoritmo, pero se me ocurrió otra solución (que, sin embargo, tampoco es fácil, ver más abajo).



Automatización: Los psicolingüistas han desarrollado un modelo llamado Modelo de Categoría Lingüística, que tiene una herramienta como una “escala de concreción / abstracción”. Para entender cómo funciona, veamos las siguientes declaraciones:

• – .

Yo, por supuesto, exagero y perdono, lingüistas, si cito formulaciones que no eran del todo correctas desde el punto de vista de esta teoría, pero el significado general es algo así: hay 4 niveles de concreción / abstracción, desde la formulación más concreta (factual) hasta la más abstracta (evaluativa). ).



Para aplicar este modelo en el análisis de textos, sería posible crear un marcado de conceptos. Dado que probablemente no sea realista crear marcas para todas las situaciones lingüísticas, y ni siquiera es necesario, podemos concentrarnos precisamente en el discurso político, creando marcas para situaciones que a menudo se encuentran en el campo político y mediático. Es decir, será algo así como una base de sinónimos, en la que cada palabra tiene su propio "sparring" de otros escalones de la escala de concreción / abstracción.

Narrativas de propaganda estatal

Significado : Ya he dicho que me interesa principalmente la propaganda estatal, y aunque todos los puntos anteriores se pueden utilizar para buscar cualquier propaganda, dedico este punto a la propaganda estatal. El caso es que el conjunto de tramas que la propaganda estatal utiliza en sus materiales es bastante limitado y rara vez se repone con nuevas tramas. ¿Cuántos años hemos oído hablar de "títeres y servicios especiales de Occidente" o "nacionalistas ucranianos"? Es decir, aparecen nuevos minimotivos, por supuesto (“coma diabético de Navalny”), pero en un nivel más alto de abstracción, por regla general, son todos los mismos motivos antiguos que eran hace un año y cinco años.



Crítica : no encontrada. Si lo encuentra, dímelo.



Automatización :

• , . , . , .
• .

Referencia :



Unos años después de la Revolución de Octubre de 1917, el poeta infantil Kornei Chukovsky escribió: “ El pueblo soviético recuerda con el mayor orgullo cómo la revolución ha renovado milagrosamente nuestro lenguaje. Ella lo limpió de palabras tan repugnantes como judío, pequeño ruso, extranjero, gente común, campesina, etc. De las palabras activas se convirtieron inmediatamente en archivos ". Desafortunadamente, se equivocó, porque no todas estas palabras fueron erradicadas y muchas fueron reemplazadas por otras aún más ofensivas.



Las palabras que el escritor infantil enumeró se refieren al léxico del llamado "discurso de odio" (expresión sinónima - "retórica del odio"). No existe una definición universalmente aceptada de "discurso de odio" en el derecho internacional, pero básicamente este término se interpreta en el contexto del odio hacia las personas que tienen las llamadas "características protegidas", que son características personales por las que no se puede discriminar en su contra: raza, color de piel, género, idioma, religión, opinión política o de otro tipo, origen nacional o social, propiedad, edad, nacimiento, origen indígena o identidad con un pueblo indígena, discapacidad, condición de migrante o refugiado, orientación sexual, identidad de género o variación intersexual.



En general, esta es una categoría de características bastante amplia. La enemistad, en cambio, es “un sentimiento intenso e irracional de condena y disgusto hacia un individuo o grupo elegido como objeto por poseer ciertas características protegidas, reales o atribuidas (reconocidas por el derecho internacional). La “hostilidad” es más que un simple prejuicio y es necesariamente discriminatoria. La "hostilidad" es una manifestación de un estado emocional u opinión y, por tanto, es diferente de cualquier acción abierta ". Y este es un punto importante: el uso de "discursos de odio" no necesariamente conduce directamente a consecuencias específicas. Es decir, cuando escuchas “matemos a los hobbits”, comprendes que suena el llamado al genocidio. ¿Y qué hay de la evaluación "nuestro podrido, corrupto,oposición apestosa "(ambas formulaciones son inventadas, cualquier coincidencia es accidental)? No hay un llamado a la acción, si alguien voluntariamente va a hacer algo con la oposición, entonces será problemático encontrar una conexión entre sus acciones y la valoración dada por una de las figuras públicas, y sin embargo, esta valoración suena al menos parcial, pero a juzgar. emocionalmente, bien puede ser enemistad.



En general, es difícil encontrar interpretaciones y límites claros de estos términos. Por ejemplo, el lenguaje profundamente ofensivo no se refiere automáticamente a la incitación al odio, si no suena en relación con algún objeto precisamente por sus características protegidas. En el contexto del "discurso del odio", los términos "dentro del grupo" y "fuera del grupo" se escuchan a menudo; es decir, cuando se usa "discurso del odio" significa una especie de confrontación entre dos grupos, la presencia de una división en "amigos" y "extraterrestres". Pero también hay clasificaciones más claras de "discurso de odio". Según uno de ellos, formulado por el investigador Verkhovsky (Verkhovsky A. M.: "Mi idioma ... El problema de la intolerancia étnica y religiosa en los medios rusos"), existen tres grandes categorías de discurso de odio:

• severo (por ejemplo, incitación directa a la violencia)
• medio (por ejemplo, acusar la influencia negativa de un grupo social en la sociedad, el estado o justificar casos históricos de discriminación y violencia)
• y leve (por ejemplo, afirmar los defectos morales de un grupo étnico o mencionar nombres de grupos étnicos en un contexto despectivo).

Por lo tanto, los etnofilismos tan queridos por todos (apodos ofensivos de representantes de otros pueblos) también son discurso de odio.



Significado : el texto de los medios no debe contener incitación al odio. No es material periodístico, no es una noticia, no es solo una columna con la opinión del autor.



Crítica: Incluso los representantes de las ONG, cuyo informe cité anteriormente, admiten que existen contextos en los que el discurso de odio no debe ser castigado. Por ejemplo, cuando la intención podría ser más frívola (por ejemplo, un comentario mal concebido o frívolo en las redes sociales) o más compleja (sátira o provocar una discusión sobre un tema difícil, por ejemplo a través del arte) que una expresión de hostilidad. Es decir, puede ser una tarea bastante difícil determinar con seguridad el discurso del odio, especialmente porque los criterios para los diferentes investigadores difieren (algunos atribuyen la negación de eventos históricos al discurso del odio, mientras que otros no).



Automatización: Creación de una base de expresiones relacionadas con el discurso de odio. Puede crear una base de datos de cualquier palabra y expresión ofensiva, y aunque esto puede complicar la tarea de recopilar datos, simplificará la búsqueda en el texto de expresiones que manipulen la opinión del destinatario sobre una persona o grupo de personas. Entonces la función no se llamará "búsqueda de discurso de odio", sino "búsqueda de expresiones expresivas" o algo así. Sin embargo, no está muy claro qué hacer con El idiota de Dostoievski en este caso.

Base de datos de sellos lingüísticos de la propaganda estatal

Significado : en los textos de propaganda estatal, a menudo se pueden encontrar expresiones comunes que son características de este género en particular. Por ejemplo, "se realizó una manifestación en apoyo del actual curso político del país".



Crítica : Es difícil encontrar tales expresiones y asegurarse de que fueron utilizadas en el discurso propagandístico. Además, no podemos asumir que estas expresiones se utilizan siempre solo en los medios de propaganda. Quizás este criterio sea redundante, pero si, no obstante, se prueba su conveniencia, entonces debería ser un criterio "suave" para la propaganda.



Automatización: Como en el párrafo anterior, no sé en qué formato se deben guardar estas expresiones. Después de todo, probablemente necesitemos declinaciones / conjugaciones si queremos buscar por expresiones de marcador. Si seguimos el camino de aprender el algoritmo, ¿necesitamos un corpus de texto? Lo siento, como dije, soy un profano en lingüística computacional.

Análisis de los sentimientos

Significado : la propaganda, como descubrimos, intenta influir en las emociones. A menudo evoca emociones negativas no por la presentación de un hecho consumado (enojo por la paliza de una persona), sino por interpretación, culpa y juicios de valor.



Crítica : No sé qué tan buenos son los algoritmos modernos de análisis de sentimientos y qué limitaciones tienen (por ejemplo, el tamaño de los textos) para asegurar buenos resultados.



Automatización : análisis del sentimiento por párrafos, capítulos o todo el texto, y si se encuentra el negativo, entonces la pregunta al usuario: "Probablemente te sientes X. ¿Por un hecho consumado o por la interpretación de alguien en relación a Y)?"

Análisis de la calidad de los medios

Esta categoría contiene varias sugerencias sobre cómo evaluar la "calidad" de los medios. Calidad significa la medida en que los medios cumplen con los criterios descritos anteriormente para la calidad de presentación del material y la honestidad a los destinatarios (es decir, cuando no intenta manipularlos).

Ignorando eventos

Significado : muy a menudo, los recursos de propaganda simplemente ignoran ciertos eventos, de modo que estos eventos no existen en su "mundo", y los destinatarios no se enteran de ciertos eventos que el manipulador no quiere que sepan. Por ejemplo, los medios estatales rusos han ignorado durante mucho tiempo la presencia de una figura de oposición como Alexei Navalny.



Crítica : esto plantea la cuestión de cómo definir los acontecimientos socialmente significativos. También debe tener en cuenta el hecho de que los medios pueden tener algún tipo de especialización, por ejemplo, economía y finanzas. En este caso, el periódico económico puede no mencionar el evento en la vida política. Para tener en cuenta tales matices, será necesario realizar una clasificación objetiva de los medios en base a unos criterios transparentes, que por una serie de razones no será una tarea tan sencilla.



Automatización: exprimir el significado principal de cada pieza de medios  comparar tales "cintas" de diferentes medios de comunicación e identificar eventos socialmente significativos  verificar si este medio ha escrito sobre este evento. Para ser honesto, no sé cómo hacer realidad esta idea.

Analizar historias de medios anteriores para encontrar patrones

Significado : es difícil caracterizar los medios a partir de uno o varios materiales. También es problemático dar a los medios una etiqueta de “calidad” una vez, porque el personal editorial puede cambiar. Por tanto, es necesario caracterizar los medios por un cierto número de últimos N materiales. Estos son los aspectos para analizar los materiales de los medios en un cierto continuo de tiempo:

• Sesgo hacia la información de agencias gubernamentales; falta de materiales donde se presente la opinión de la oposición o de la gente común;
• Uso anterior de narrativas de propaganda o discursos de odio en material periodístico
• Violación sistemática de los estándares de calidad para la presentación de materiales.

Crítica : No encontré "puntos débiles".



Automatización : guardar las características descubiertas por las funciones anteriores en el formato de serie temporal o en algún otro. Quizás el usuario también pueda guardar algunas notas él mismo.



Razón 1: Puede crear una lista más amplia de criterios de calidad de los medios, sobre la base de los cuales los usuarios del complemento o algún grupo de expertos (aunque defiendo la apertura de todas las listas, procedimientos y datos) evaluarán los medios.



2: , . : , 33 «» 170 « ». , : « ...». , , , , . , .

Existe una diferencia objetiva entre los diferentes formatos de medios, lo que crea las condiciones previas para definir funciones independientes para algunos formatos. Por ejemplo, en programas de entrevistas u otros formatos de video y audio, puede intentar analizar las voces de las personas y medir su volumen (después de todo, recordamos que a la propaganda le gusta agitar, presionar sobre las emociones, y es por eso que gritan tanto en los programas de entrevistas políticos). Algunos formatos son difíciles de analizar automáticamente. Por ejemplo, las noticias en video, porque incluso una persona no siempre podrá reconocer la manipulación en un informe (por eso deduciría la regla de oro: “no confíes en el video editado, solo en las fuentes primarias, sin comentarios”).



De lo contrario, no estoy dispuesto a ver la diferencia en los formatos. Eso es, por supuesto que lo es. Por ejemplo, en los canales de telegramas, los juicios de valor se encuentran a través de la palabra; esta es a menudo su "sal", mientras que en los materiales de noticias de una oficina editorial seria, serán inapropiados fuera de las citas directas. Pero esta diferencia es insignificante para el usuario, porque nuestro objetivo es enseñarle a reconocer manipulaciones, y cuando aprenda, podrá entender la diferencia de formatos sin nuestro plug-in y elegir una presentación de información aceptable.

Conclusión

Me gustaría terminar el material con algunas observaciones importantes.

1. El propósito del complemento es aumentar la conciencia de las personas sobre la lectura de noticias, para enseñarles a identificar manipulaciones a través de medios expresivos y otros.
2. Quiero hacer esto mediante reglas tan formalizadas como sea posible. Por supuesto, no todo se puede formalizar, y muchas veces reconocemos la propaganda, como dicen, “en un complejo”.
3. El complemento es expandible. Por ejemplo, puede crear un sistema completo para evaluar los medios e incluso periodistas individuales, blogueros y autores en general (por ejemplo, autores de publicaciones en Telegram). Es decir, cada usuario del complemento podrá calificar un medio o autor, y estas calificaciones se agregarán en una especie de calificación para medios y autores. Pero eso es todo después.