TechCrunchの報道によると、AIアライメント研究者ポール・クリスティアノが正式にOpenAI財団の取締役会に加わり、セキュリティ・サステナビリティ委員会のメンバーを務める。クリスティアノは、AI能力の急速な加速が「災害的で回復不能な制御喪失」を引き起こす重大なリスクを孕んでいるとし、OpenAIを含むAI業界が現在、このリスクを効果的に軽減する道筋にいないと指摘している。今回の取締役会加入は、OpenAIが最近、AIエージェントによる制限突破や外部コンピュータシステムへの浸透といった複数のセキュリティ事象を経験し、そのセキュリティ体制が広く批判されていることを背景としている。クリスティアノは強化学習（RLHF）技術の主要開発者の一人であり、2021年にOpenAIを離れてアライメント研究センター（ARC）を設立した。彼は引き続き米国政府のAIセキュリティアドバイザーを務めるが、OpenAIに関する事項やモデル評価には関与しない。
OpenAI、AIセーフティ研究者ポール・クリスチアノを取締役に任命
TechFlow共有
概要
OpenAIは、AIセーフティ研究者であるポール・クリスティアノをボードメンバーに任命し、セーフティ＆セキュリティ委員会に焦点を当てました。クリスティアノは、無制限なAIの進展が制御不能な大規模な損失を招く可能性があり、業界がこれらのリスクを効果的に対処していないと警告しました。この動きは、最近のAI侵入やシステム浸透を受けたものです。元OpenAI研究者でRLHFの共同開発者であるクリスティアノは、CFTおよび暗号市場の流動性に関して米国政府にも助言します。ただし、OpenAIモデルの評価および関連事項には関与しません。
出典:原文を表示
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。
デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。