Substack lanza una herramienta de detección de contenido de IA para mejorar la transparencia

Ahora es cada vez más difícil distinguir qué es contenido real en internet.

Este problema es relativamente leve en Substack, y deseamos mantenerlo así. Como primer paso, hoy lanzamos en la aplicación de Substack una función en colaboración con Pangram. En el futuro, podrás escanear texto para ver cuánto de él es probablemente manuscrito y cuánto fue realizado con ayuda de IA. Explicaré más detalles más adelante, pero primero permíteme explicar por qué esto es importante.

Según estimaciones de Pangram, la proporción de texto generado por IA en ciertas plataformas está aumentando, hasta un 40%. Es un cambio enorme. Muchas personas se quejan de que sus flujos de información están llenos de contenido sin alma. Algunas ni siquiera se dan cuenta de que están leyendo algo creado por nadie.

El problema central no radica en que las personas usen IA, ni en la calidad de las salidas de la IA. No todo el contenido creado con IA es basura, ni toda la basura es creada por IA. El problema surge cuando las expectativas del lector no coinciden con la realidad, especialmente cuando, sin saberlo, dedican su atención a contenido que no tiene ningún pensamiento humano detrás. Esto es Claudefishing.

Freddie deBoer dijo:

Me acerco al arte creado por humanos porque sé que detrás hay una persona, y eso es exactamente lo que busco: otros que, a través del arte, me muestren lo que llevan oculto dentro de sí mismos. Engañarme en este proceso no es más que una estafa.

Nos preocupamos por este tema en Substack porque toca el núcleo de nuestro trabajo: construir motores económicos para la cultura. Significa ayudar a personas reales —aquellas que piensan, sienten, observan, discuten, experimentan, reflexionan, luchan, aconsejan y se preocupan— a ganar dinero con el trabajo en el que creen. Esta red se basa en la confianza entre personas, y por eso funciona.

Cuando el contenido generado sin intervención humana ocupa la parte del internet que debería pertenecer a los seres humanos, contamina el espacio público y dificulta encontrar y escuchar las voces humanas. Cuando los lectores deben cuestionar si lo que están leyendo es auténtico, se erosiona la confianza en la autoría y se amenaza el sustento de los escritores —incluidos aquellos que utilizan conscientemente herramientas de IA para crear obras en las que creen. Las plataformas que recompensan contenido falso desencadenarán una carrera hacia el fondo.

Este es un campo emergente y no afirmamos tener todas las respuestas. Pero sí sabemos una cosa: no queremos esperar hasta que tu aplicación de Substack se convierta en LinkedIn para comenzar a aprender y avanzar. Por eso, primero lanzamos algunas nuevas herramientas con el objetivo de aumentar la transparencia y sentar las bases para recibir tus comentarios.

Estamos colaborando con la herramienta líder de detección de IA, Pangram. Podrás escanear notas, respuestas, comentarios y publicaciones para ver la estimación de qué porcentaje del texto fue escrito a mano o con ayuda de IA. Esto se aplicará a todos los textos de más de 100 palabras publicados a partir de hoy, y los resultados del análisis solo se mostrarán a quienes soliciten verlos.

Tenga en cuenta que Pangram solo puede detectar si se utilizó IA para crear el texto, pero no puede determinar si se invirtió mucho esfuerzo humano durante la creación ni si se utilizaron herramientas de IA como fuente. No es perfecto, pero estudios independientes muestran que puede detectar textos generados por IA con alta precisión. Creemos que es beneficioso que las personas utilicen estas herramientas para ayudarse a tomar decisiones.

También hemos lanzado herramientas para creadores, incluyendo la función para agregar una declaración "Cómo creé esto", donde puedes explicar tu proceso y establecer expectativas para los lectores. Puedes ejecutar Pangram en tus borradores antes de publicar, así como reportar y eliminar cualquier resultado de escaneo que consideres incorrecto sobre tu obra.

Estas funciones ya están disponibles en la web y en iOS, y pronto se lanzarán en Android. Este es solo el comienzo. Según el feedback y el interés, estamos considerando las siguientes herramientas:

Configura tus preferencias sobre contenido de IA para tu comunidad en las reglas de respuesta.

Proporcionar a los creadores más formas de expresar el valor personal que ofrecen, ya sea a través de escritura humana o uso reflexivo de IA

Permite al lector elegir configurar sus preferencias sobre qué contenido le recomiendan.

Mientras la IA acelera estos problemas, continuamos mejorando nuestros sistemas para combatir el spam, los bots y diversos fraudes.

No nos oponemos a que las personas utilicen IA para asistir en su trabajo; creemos que deberían tener la libertad de elegir qué herramientas usar para expresarse. Algunos usuarios en la plataforma son maximalistas de la escritura humana, mientras que otros exploran abiertamente los límites de las herramientas de IA, prestando atención a los detalles para crear el contenido que apoyan. En Substack, hemos utilizado IA desde siempre para escribir software, realizar investigaciones y desarrollar funciones de producto como recortes y traducciones.

Pero la gente debería saber qué es lo que está recibiendo. Por ejemplo, podrías no importarte leer un análisis agudo de alguien que depende en gran medida de la IA para presentar resultados de investigación, pero solo quieres dedicar tiempo a interactuar con respuestas escritas a mano por humanos. De cualquier manera, deberías tener la opción.

Todos estamos entrando juntos en este extraño nuevo mundo, y no podemos imaginar una mejor manera de descubrir las nuevas herramientas y nuevas normas sociales que necesitamos que mediante un debate abierto. Queremos escuchar tu opinión: ¿Cómo puede Substack ayudar a respaldar la creación humana valiosa en la era de la IA? ¿Cuándo el uso de IA es Claudefishing? ¿Cuándo es bueno?

Sin importar cuán poderosa se vuelva la IA, la perspectiva humana es un elemento fundamental de la cultura, y siempre lo será. De hecho, cuanto más esperes que estas herramientas mejoren constantemente, más importante se vuelve comprender el origen del contenido que lees. ¡Claude tiene muchas ventajas! Pero cuando quiero la opinión de Claude, le pregunto directamente a Claude.

Autor: Chris Best; Traducción: DeepCha TechFlow; Imagen: Interfaz de la herramienta de detección de IA de Substack en colaboración con Pangram, que muestra el porcentaje de texto escrito por humanos y asistido por IA. Fuente: Substack