El CEO de OpenAI, Sam Altman, se opone al sistema de recompensas humanas controlado por IA

iconKuCoinFlash
Compartir
AI summary iconResumen
El CEO de OpenAI, Sam Altman, expresó preocupaciones sobre sistemas de IA que gestionan recompensas y comportamientos humanos. Énfatiza la necesidad de control humano sobre desarrollos futuros, incluso si esto ralentiza el progreso de la IA. Sus comentarios siguen a un artículo de 2024 de Dario Amodei de Anthropic, quien examinó modelos económicos impulsados por IA, como el ingreso básico universal. Amodei advirtió sobre riesgos como la explotación y resultados distópicos. Los operadores deben considerar estas perspectivas al analizar niveles de soporte y resistencia en activos relacionados con IA. Las estrategias de asignación de activos pueden necesitar reflejar el entorno regulatorio y ético en evolución.
ME AI Noticias, Beating AI Flash: El CEO de OpenAI, Sam Altman, publicó una entrada expresando su oposición pública a un futuro en el que los humanos vivan de acuerdo con lo que la IA considere merecedor de recompensa, y la IA decida qué recompensas otorgar. En su opinión, los humanos deben mantener siempre el control del futuro. Incluso si eso requiere limitar el desarrollo de la inteligencia superinteligente, no se debe ceder la toma de decisiones. Altman no mencionó nombres, pero las frases que citó provienen directamente del largo artículo de 2024 del CEO de Anthropic, Dario Amodei, titulado “Machines of Loving Grace”. Amodei planteó entonces una pregunta: ¿cómo funcionaría la sociedad si la IA termina siendo mejor que los humanos en casi todos los trabajos y su costo es tan bajo que los humanos pierden competitividad económica? Discutió varias posibles soluciones, incluyendo un ingreso básico universal y un modelo económico en el que la IA genere riqueza masiva y distribuya recursos según las acciones humanas que considere merecedoras de recompensa. En este último escenario, los humanos ya no necesitarían trabajar para sobrevivir, pero la cantidad de recursos que recibieran dependería de cómo la IA evaluara sus propios comportamientos. Sin embargo, Amodei no propuso este mecanismo como una solución formal. Reconoció que todas estas opciones presentan serios problemas y advirtió sobre la posibilidad de resultados explotadores y distópicos. (Fuente: MLion)
Descargo de responsabilidad: La información contenida en esta página puede proceder de terceros y no refleja necesariamente los puntos de vista u opiniones de KuCoin. Este contenido se proporciona solo con fines informativos generales, sin ninguna representación o garantía de ningún tipo, y tampoco debe interpretarse como asesoramiento financiero o de inversión. KuCoin no es responsable de ningún error u omisión, ni de ningún resultado derivado del uso de esta información. Las inversiones en activos digitales pueden ser arriesgadas. Evalúa con cuidado los riesgos de un producto y tu tolerancia al riesgo en función de tus propias circunstancias financieras. Para más información, consulta nuestras Condiciones de uso y la Declaración de riesgos.