Autor: Chris Best
Compilado por Deep潮 TechFlow
Guía de Shenchao: Hasta un 40 % del contenido en redes sociales ya es generado por IA, pero los lectores a menudo no lo saben. Substack considera que este "Claudefishing" (fingir ser un escritor humano) está socavando la confianza entre lectores y autores, amenazando los medios de vida de los creadores de contenido. Su respuesta: dejar que los lectores decidan por sí mismos, en lugar de que la plataforma lo decida por ti.
Internet difícil de distinguir entre lo verdadero y lo falso
Ahora es cada vez más difícil distinguir qué es contenido real en internet.
Este problema es relativamente leve en Substack, y deseamos mantenerlo así. Como primer paso, hoy lanzamos en la aplicación de Substack una función en colaboración con Pangram. En el futuro, podrás escanear texto para ver qué porcentaje es probablemente escritura manual y qué porcentaje fue realizado con ayuda de IA. Explicaré más detalles más adelante, pero primero permíteme explicar por qué esto es importante.
Hay agua por todas partes, pero no una gota que beber
Según estimaciones de Pangram, la proporción de texto generado por IA en ciertas plataformas está aumentando, hasta un 40 %. Se trata de un cambio enorme. Muchas personas se quejan de que sus flujos de información están llenos de contenido sin alma. Algunas ni siquiera se dan cuenta de que están leyendo algo creado por nadie.
El problema central no radica en que las personas usen IA, ni en la calidad de las salidas de la IA. No todo el contenido creado con IA es basura, ni toda la basura es creada por IA. El problema surge cuando las expectativas del lector no coinciden con la realidad, especialmente cuando, sin saberlo, dedican su atención a contenido que no tiene ningún pensamiento humano detrás. Esto es Claudefishing.
Freddie deBoer dijo:
Me conecto con el arte creado por humanos porque sé que detrás hay una persona, y eso es exactamente lo que busco: otros que, a través del arte, me muestran lo que llevan oculto dentro de sí mismos. Engañarme en este proceso no es más que una estafa.
Nos preocupamos por este tema en Substack porque toca el núcleo de nuestro trabajo: construir motores económicos para la cultura. Significa ayudar a personas reales—aquellas que piensan, sienten, observan, discuten, experimentan, reflexionan, luchan, aconsejan y se preocupan—to earn money through the work they believe in. Esta red se basa en la confianza entre personas, y por eso funciona.
Cuando el contenido generado por máquinas ocupa la parte del internet que debería pertenecer a los humanos, contamina el espacio público y dificulta encontrar y escuchar las voces humanas. Cuando los lectores deben cuestionar si lo que están leyendo es auténtico, se erosiona la confianza en la autoría y se amenaza el sustento de los escritores —incluidos aquellos que utilizan conscientemente herramientas de IA para crear obras en las que creen. Las plataformas que recompensan contenido falso desencadenarán una carrera hacia el fondo.
¿Qué estamos haciendo?
Este es un campo emergente y no afirmamos tener todas las respuestas. Pero una cosa sí sabemos: no queremos esperar hasta que tu aplicación de Substack se convierta en LinkedIn para comenzar a aprender y avanzar. Por eso, primero lanzamos algunas nuevas herramientas con el objetivo de aumentar la transparencia y sentar las bases para recibir tus comentarios.
Estamos colaborando con la herramienta líder de detección de IA, Pangram. Podrás escanear notas, respuestas, comentarios y publicaciones para ver la estimación de qué porcentaje del texto fue escrito a mano o con ayuda de IA. Esto se aplicará a todos los textos de más de 100 palabras publicados a partir de hoy, y los resultados del análisis solo se mostrarán a quienes soliciten verlos.
Imagen: Interfaz de la herramienta de detección de IA de Substack en colaboración con Pangram, que muestra el porcentaje de texto escrito por humanos y asistido por IA. Fuente: Substack
Tenga en cuenta que Pangram solo puede detectar si se utilizó IA para crear el texto, pero no puede determinar si se invirtió mucho esfuerzo humano durante la creación ni si se utilizaron herramientas de IA como fuente. No es perfecto, pero estudios independientes muestran que puede detectar textos generados por IA con una alta precisión. Creemos que es beneficioso que las personas utilicen estas herramientas para ayudarse a tomar decisiones.
También hemos lanzado herramientas para creadores, incluyendo la función para agregar una declaración "Cómo creé esto", donde puedes explicar tu proceso y establecer expectativas para los lectores. Puedes ejecutar Pangram en tus borradores antes de publicar, así como reportar y eliminar cualquier resultado de escaneo que consideres incorrecto sobre tu obra.
Estas funciones ya están disponibles en la web y en iOS, y pronto se lanzarán en Android. Esto es solo el comienzo. Según el feedback y el interés, estamos considerando las siguientes herramientas:
Configura tus preferencias sobre contenido de IA para tu comunidad en las reglas de respuesta.
Proporcionar a los creadores más formas de expresar el valor personal que ofrecen, ya sea a través de la escritura humana o del uso reflexivo de IA
Permita que los lectores puedan configurar sus preferencias sobre qué contenido les recomiendan.
Con la aceleración de estos problemas por la IA, continúe mejorando nuestros sistemas para combatir el spam, los bots y diversos fraudes.
No nos oponemos a que las personas utilicen IA para asistir en su trabajo; creemos que deberían tener la libertad de elegir qué herramientas usar para expresarse. Algunos usuarios en la plataforma son maximalistas de la escritura humana, mientras que otros exploran abiertamente los límites de las herramientas de IA, prestando atención a los detalles para crear los contenidos que apoyan. En Substack, hemos utilizado IA desde siempre para escribir software, realizar investigaciones y construir funciones de producto como recortes y traducciones.
Pero las personas deberían saber qué es lo que están recibiendo. Por ejemplo, podrías no importarte leer un análisis agudo de alguien que depende en gran medida de la IA para presentar resultados de investigación, pero solo quieres dedicar tiempo a interactuar con respuestas escritas a mano por humanos. De cualquier manera, deberías tener la opción.
What do you want to see?
Todos estamos entrando juntos en este extraño nuevo mundo, y no podemos imaginar una forma mejor de descubrir las nuevas herramientas y nuevas normas sociales que necesitamos que mediante un debate abierto. Queremos escuchar tu opinión: ¿Cómo puede Substack ayudar a respaldar la creación humana valiosa en la era de la IA? ¿Cuándo el uso de IA es Claudefishing? ¿Cuándo es bueno?
Sin importar cuán poderosa se vuelva la IA, la perspectiva humana es un elemento fundamental de la cultura, y siempre lo será. De hecho, cuanto más esperes que estas herramientas mejoren constantemente, más importante se vuelve comprender el origen del contenido que lees. ¡Claude tiene muchos puntos fuertes! Pero cuando quiero la opinión de Claude, le pregunto directamente a Claude.