Si no lo ha leído, léalo. El final evoca emociones realmente fuertes. Para mí, se vieron agravados por el hecho de que estoy relativamente profesionalmente comprometido con la inteligencia artificial, la generación de texto y el problema de los significados, por lo que creía razonablemente que podía reconocer fácilmente el texto generado por una máquina ...
Sí, sí, lo compré. El texto del artículo "GPT-3 de OpenAI podría ser lo más grande ya que Bitcoin" fue (posiblemente) creado por AI, pero no lo vi, a pesar de que yo, en general, lo hago de manera profesional y conozco las técnicas básicas que se utilizan en la máquina. generando texto.
Después de que haya dormido mi primer shock leve, me gustaría compartir una serie de consideraciones.
Esto no es texto de máquina, sino texto procesado por humanos
Quizás la primera reacción al texto fue la negación, la falta de voluntad para aceptar que este texto fue hecho por una máquina. Mi cerebro comenzó a un ritmo frenético para encontrar un argumento adecuado para esto. En términos generales, yo mismo los considero bastante débiles, pero aún así quiero citarlos:
- No se sabe en qué porcentaje del texto y cómo lo editó el autor . Hay ejemplos de texto que parece estar hecho por una máquina, pero corregido por una persona; por ejemplo, hubo una vez una historia sobre un guión de película / libro hecho por IA. La sutileza siempre estuvo en los detalles: si lees la reseña, siempre se dice algo en el espíritu de que la IA hizo el comienzo de la historia, y luego un grupo de escritores la finalizó . Siempre he atribuido la calidad del resultado al hecho de que los escritores simplemente aportaron algo de su propio significado en la finalización, ya que en pinturas abstractas, con un fuerte deseo, puedes encontrar algo . Quizás este argumento no funcione aquí, ya que, según asegura el autor, solo corrigió el formato del texto.
- . , , . , « ?» . , , .
- . , , . GPT-2, , - . - , , , . , «» GPT-3 , …
Sin embargo, también estoy dispuesto a admitir que estos argumentos son bastante débiles y que, de hecho, la máquina ahora puede crear textos de noticias relativamente largos similares a los humanos.
Dejé mi taza de té a un lado y pensé: “¿Qué significa esto? ¿Qué lección puedo aprender de esta historia? ¿Puedo ahora dar al menos algunos consejos sobre la capacidad de distinguir los buenos textos de los malos o sin sentido? "
Instituto de reputación y verificación de hechos
Volviendo a las emociones que surgieron en el proceso de lectura, recordé que el fragmento del artículo, luego del cual comencé a “creer” en lo que estaba pasando, era una descripción del experimento en el foro de bitcointalk. El comienzo del artículo no me molestó: está dedicado a los hechos sobre la creación de GPT-3, y ya estoy acostumbrado al hecho de que tales hechos no dicen nada sobre el autor o su comprensión del tema, ya que se pueden tomar prestados de cualquier lugar.
Pero la descripción del experimento fue interesante. En realidad, creó el "contenido" del artículo - las reglas de publicación, la reacción de otras personas del foro ...
... y como resultado, entendemos que no hubo ningún experimento.
Esto me llevó a pensamientos interesantes. Escribí hace mucho tiempo sobre el modelado de ciclos económicos basados en el crecimiento de la confianza.... La conclusión es que el crecimiento se produce solo mientras se cumplan las obligaciones de las partes o, más simplemente, si te digo "Te enviaré este producto en una semana a un precio X", confías en mí y realmente lo haré. Todo se basa únicamente en la confianza: si no confía en mí o lo engañaré, nosotros, por supuesto, podemos intentar resolver el caso a través de la corte, pero esto irá acompañado de ENORMES costos. Imagínense cómo sería si cada compra de yogur en una tienda fuera acompañada de una seria posibilidad de litigio ...
Y aquí llegamos, en mi opinión, a un grave problema del mundo moderno. En cierto sentido, casi no nos quedan instituciones de reputación en relación con las palabras y los textos, lo que significa que realmente no sabemos en quién podemos confiar .
Imagine que le llama un representante de un operador de telefonía móvil. O un banco. Con una oferta nueva, única y ventajosa para ti. ¿Creerás que es beneficioso para ti?
Los medios pueden poner accidentalmente la foto "incorrecta". Pueden considerar la situación de forma unilateral. Publique un artículo provocativo en la página principal con una pequeña inscripción en la parte inferior “Esta es la columna del autor. La opinión del autor puede no coincidir con la opinión del consejo editorial ". Pueden referirse a un profesor desconocido del Instituto Mundial en Kukuevo con las palabras "Los científicos han aprendido ..." Y no obtendrán nada por ello. Como mínimo, se quejarán de la falta de verificación de hechos y tal vez publiquen una refutación en un rincón en el que nunca la encuentren después de un par de meses.
Incluso la presencia de personas "competentes" no ayuda. Quizás, recuerdo mejor la historia de Theranos ( sobre Habré ), que prometió una revolución casi médica y reunió a una junta directiva impresionante (la junta directiva de la compañía incluía personalidades tan conocidas como los ex secretarios de Estado estadounidenses Henry Kissinger y George Schultz). A todos les parecía que esas personas no podían estar equivocadas, pero de hecho, también confiaban en garantías verbales, mientras que la tecnología, de hecho, no funcionaba. No creas que puedes confiar en algo incluso si has invertido $ 700 millones allí.
Desafortunadamente, el punto es que ahora ya no podemos confiar en la opinión de otra persona. La reputación cuesta muy poco y con mucho gusto se cambia por dinero. De hecho, nuestra familia y seres queridos siguen siendo el único buen espacio de confianza y, afortunadamente, las ideas de mercadeo en red (Oriflame, etc.), explotando la confianza personal, han desaparecido más o menos de nuestras vidas.
Pero volviendo al artículo ... saqué dos conclusiones para mí:
Suavidad de texto y diálogo
Estoy reuniendo mi colección de textos generados y sus generadores. Pero no estoy muy interesado en discutir cómo los textos generados y las falsificaciones afectarán a la sociedad, aunque este tema puede estar bien pagado. Para mí, cada ejemplo del texto generado es una pregunta: "¿Qué parte del pensamiento humano pudimos formalizar?" Y "¿qué ha quedado sin explicar y sigue siendo prerrogativa de una persona?"
GPT-3 y las redes neuronales modernas, ya que se entrenan en los textos, y no en los significados incluidos en estos textos, son descendientes lejanos de la generación de textos debido a las redes N-gramas o Markov, que presumiblemente se usan en Yandex . Si observa los principios subyacentes y ejemplos de textos generados, puede introducir varias reglas importantes:
- . , . (.) 4-7 , GPT-3, , , . , – , , .
- . , , , . - , «, » « Apple, , ». , . !
- . « , , » « , » .
Además, me gustaría hablar por separado sobre el diálogo con AI. En particular, cualquier profesor sabe que no se puede decir nada sobre sus conocimientos basándose en el resumen proporcionado por el alumno. Pero si habla con él durante 5 a 10 minutos, es fácil entender si está “torpemente” o no.
En mi artículo sobre chatbots, menciono que el principal problema de la IA ahora es tener en cuenta el contexto del diálogo y comprender al interlocutor.... Es fácil imaginar una IA que responda bien a una frase específica, pero parece una persona que ha escuchado un poco sobre todo, pero no entiende la esencia. Entre los estudiantes, también hay tales: responder a frases clave. Si no toca temas complejos, no evalúa el conocimiento y la comprensión personal, puede tener la sensación de que el interlocutor es un intelectual y sabe de lo que está hablando, aunque en realidad solo está repitiendo las verdades que escuchó en alguna parte .
Evidentemente, el hombre no está determinado por lo que dice. Una persona está determinada por el hecho de que puede actuar basándose en sus creencias. Puede analizar su experiencia o percibir la experiencia de otra persona.
NO participa exclusivamente en conversaciones, sin tener ninguna responsabilidad por sus palabras.