Anthropic Başkanı, Stanford Konuşmasında Yapay Zeka Çağında İnsan Değerlerini Vurguluyor

iconMetaEra
Paylaş
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconÖzet

expand icon
Anthropic Başkanı Daniela Amodei, Stanford'da konuşarak AI çağında insan değerlerinin rolünü vurguladı. Edebiyat mezunu olan Amodei, empati ve iletişimin teknik göstergelerle değiştirilemeyeceğini savundu. Amodei, AI'nın insan işini desteklediğini, ancak yerini almadığını söyledi ve aşırı bağımlılığın korku ve avarelik endeksini çarpıtabileceğini uyardı. Ayrıca Anthropic'te işe alımın, sadece teknik beceriler değil, benzersiz insan özelliklerine odaklandığını ekledi.
Piyasa yapısı açısından bakıldığında, Anthropic'un üst düzey yöneticilerinin insan becerilerine verdiği önem, sadece bir değer ilanı değil, AI endüstrisinin değer zincirini yeniden yapılandırmaya yönelik pratik bir tepkidir.

Yazı yazarı, kaynak: Toutiao

Daha önce, Anthropic'in ortak kurucusu ve presidenti Daniela Amodei, Stanford İşletme Okulu'nda 50 dakikalık bir konuşma yaptı.

Çok sayıda AI uzmanının aksine, o bilgisayar bilimleri mezunu değil, İngiliz edebiyatı bölümü mezunudur.

Paylaşımında, sert teknolojinin sonunda en kıymetli unsur hâlâ en eski insanî bilgeliklerdir.

Sanatlar ve Bilimler Bölümü mezunları, Bilişim Bilimleri uzmanlarından daha rekabetçi.

Daniela, 2009'da mezun olduğunda finansal kriz yaşandı. Kendini alay ederek, uluslararası kalkınmadan Kongre'nin siyasi asistanlığına, ardından Stripe'ın erken üyelerinden biri olana kadar geçişini bir "devir tarihi" gibi tanımladı.

O, "kariyer planının" genellikle başarıdan sonraki bir hikâye olduğunu düşünüyordu; o zamanlar sadece üç filtre vardı: Ne iyi yapabiliyorum, Ne ilgimi çekiyor, Ne büyük bir etki yaratabilir?

Ancak bu çok yönlü arka plan, AI alanında benzersiz bir rekabet avantajı haline geldi.

Sinir ağları ve Ölçekleme Yasaları karşısında yöntemi son derece basittir: Anlayana kadar sürekli soru sormak.

Kendisinin karşılaştırmalı üstünlüğünün kod yazmakta değil, "şeritleri" anlamakta olduğunu, teknik uzmanların hangi yolda ilerlediğini ve kendi hangi yolda köprü inşa ettiğini bildiğini iyi biliyordu.

O, yaşam tekrar başlasa bile, hâlâ edebiyatı seçecekti.

Sözlerinde Daniela, tarihi eser olan August 1914'u şiddetle tavsiye etti. Ona göre, bu kitap, bireysel karakterlerin nasıl katmanlı bir şekilde birikerek genel bir trajediye yol açtığını inceliyor.

Bu, AI alanında her gün karşılaştığı oyunla tamamen aynıdır—bireysel algoritmik kararların, nasıl birer adım ilerleyerek medeniyeti değiştiren sonuçlara dönüşmesi.

Ona göre, Anthropic, CS uzmanlığından ziyade iyi iletişim kurma, yüksek duygusal zeka, iyilik, merak ve başkalarına yardım etme isteği gibi insanî özelliklere özellikle önem veriyor.

Daniela, aynı zamanda kendisinin sıklıkla CEO'lar tarafından, "Kızım Stanford'da ikinci sınıfta, bilgisayar mühendisliği okumayı planlıyordu, hâlâ okumalı mı?" sorusuyla karşılaştığını paylaştı.

Cevabı, yazılım geliştiricilerinin hâlâ var olacak ama daha az kod yazacaklarıydı.

Çünkü geliştiricilerin çalışmasında ürün yöneticileriyle iletişim kurma ve müşterilerle iş birliği yapma kısımları genişleyecek, AI tarafından daha kolay tamamlanabilecek kısımlar daralacak.

Ortak bir iş kurmadan önce tatil yapın ve bir odada kalın.

Ortak nasıl seçilir konusunda Daniela, "Ortaklık kurmadan önce bir tatil yapın ve bir odada kalın." şeklinde çok pratik bir öneri verdi.

O, tatilden döndükten sonra hâlâ o kişiyle birlikte kalmak istiyorsan, o zaman doğru ilişki demektir dedi.

2020 yılının sonunda, Daniela, kardeşi Dario ile birlikte beş temel üyenin yanı sıra OpenAI'den ayrılarak Anthropic'ı kurdu; bu, dışarıda "kaçış" olarak yorumlandı.

Bu deneyimi, genetik düzeyde güvenlik ve sorumluluk vurgusu yapan bir organizasyon vizyonuna doğru "koşmak" olarak tanımladı.

Ona göre, Anthropic'ın yedi kurucusu arasında derin bir güvenirlik ağı vardır: O, Dario'nun kız kardeşi ve ikisi arasında 40 yıldır çatışma vardır; bu tür, her zaman maskelerini çıkarıp en sert gerçekleri söyleyebilme açıkgözlülüğü, şirketin hareketli AI dalgalarında devrilmemesinin anahtarıdır.

O, bir karşı örnek yöntem olarak “Odaya Resim Yapma” deneyini de önerdi.

Eğer kurucular, şirketin vizyonunu iki farklı odada sırasıyla bir birgüt ve bir platipüs olarak çizerse, bu “hizalama” eksikliği yıkıcı olacaktır.

Yapay zeka, işleri daha çok tamamlamak için kullanılır, yerine geçmek için değil.

Daniela, AI'nin şu anda işlerde doğrudan yerini almak yerine "tamamlayıcı beceriler" rolü oynadığını açıkladı.

Tamamen yerini alan senaryolar nadirdir ve çoğunlukla müşteri hizmetleri alanında yoğunlaşmıştır.

Sahnede bir şaka yaptı: Comcast'e bir e-posta göndermek istiyorsanız, muhtemelen asla gerçek biri yanıt vermeyecektir. Ancak beş yıl önce bile zaten öyle olmuyordu.

Bu yıl Mart itibarıyla, 49% meslektaşı en az bir görevin dörtte birini Claude ile tamamlamıştır; deneyimli kullanıcılar daha yüksek değerli görevleri denemekte ve başarı oranları da belirgin şekilde daha yüksektir.

Ancak şu anda büyük ölçekli yer değiştirme gerçekleşmedi.

O, iş yerlerinin yerini alma konusunun sadece yüzeysel bir sorun olduğunu düşünüyor. Daha temel sorun, yapay zekânın büyük ölçüde günlük üretken işleri yerine getirebilir hale gelmesiyle, iş, anlam ve sosyal yaşam arasındaki ilişkiyi yeniden anlama gerekliliğidir.

Bu üç şey, geçtiğimiz birkaç on yılda birbirine bağlanmıştı ve gelecekte bu bağların çözülebilir. Ancak Daniela da bir cevap vermedi, ancak toplumun bu değişime uyum sağlama alıştırması yapmaya başlaması gerektiğini düşündü.

Öğreniyor musunuz, yoksa kopya mı çekiyorsunuz? AI, düşünmeyi bırakmaya zorluyor

En uyanıltıcı bölüm, 80.000 kullanıcıyı kapsayan bir anketten kaynaklanmaktadır.

Daniela, insanların en çok AI'ye güvendikleri yerlerin, aynı zamanda en çok korktukları yerler olduğunu keşfetti.

Araştırma, adı henüz verilmemiş ancak yaygın olarak görülen bir kaygıyı ortaya koydu: “Beyin başlatılmaya gerek yok.”

Bu his, kısa videoları pasif olarak tüketmekten farklıdır; yapay zekânın çok kolay olması nedeniyle insanlar kendi fikirlerini bulmaktan vazgeçmeyi tercih etmeye başlamıştır.

Daniela, “Claude'nin de hatalar yapabileceğini, ancak insanların ona doğrudan güvenmeye başladığını” açıkça kabul ediyor.

Bu nedenle Anthropic, kullanıcıların zihnini kapatmak yerine uyandırmayı amaçlayan “Sokratik soruşturma” öğrenme modeli geliştirmeye kararlı.

Bir keskin karşılaştırma, ödevi ChatGPT'ye verip doğrudan cevap almak; bu davranış için hazır bir kelime var: dolandırıcılık.

Claude'nin öğrenme modunu kullanmak, size özel bir danışman gibi, neden bu dersi seçtiğinizi anlayan ve sizi tanıyan biriyle öğrenmek demektir.

İlki beyni kapatır, ikincisi beyni aktive eder.

O, AI çağında "hile" ile "öğrenme" arasındaki fark ince bir çizgidir ve dikkat edilmesi gerekir.

Yatak kenarı tutumu

Yapay zekâ, teşhis, programlama ve yönetim danışmanlığında insanları tamamen geçtiğinde, insanın yerini alamayacağı şey nedir?

Daniela, son derece sıcak bir cevap verdi: “Yatak kenarı tutumu (Bedside Manner)”.

Bir doktorun mesleğini örnek alarak: Gelecekte AI'nın teşhis yetenekleri insanları aşacak, ancak hasta için bir doktorun ilgisiyle getirdiği klinik mucizeyi veremeyecek.

Tıp literatürü, doktorla iyi ilişkisi olan hastaların klinik sonuçlarının, doktorla iyi ilişkisi olmayan hastalara göre daha iyi olduğunu göstermektedir. Bu zor açıklanabilir, ancak muhtemel nedenler arasında doktorların hastanın durumunu daha iyi anlamaya çalışması ve belki de beklenmedik testler yapması yer alabilir.

AI'nin zihinsel işleri devralmasının ardından, bu anlayış ve hissiyat becerisinin değeri beş kat artacak.

Yönetim pozisyonunda olsa bile, Claude'nin geçmiş performans değerlendirmelerini analiz ederek kendi farkına varmadığı yönetim boşluklarını tespit ettiğini ve hatta “Bir antrenör bulman gerekiyor” gibi önerilerde bulunduğunu fark etti.

O, daha kolay anlaşılabilir bir örnek de verdi.

İki çocuğu var (yaklaşık 5 ve 1 yaş). Claude'in ona yaptığı en iyi şey, çocuklarının tuvalet eğitimi sürecinde empatik, uygulanabilir ve hatta görsellerle desteklenmiş rehberlik sağlamasıydı.

Her Google aramasında "çocuğumda bir sorun var mı" sorusuna cevap her zaman "evet"; Claude ise daha dengeli ve etkileşimli, yorgun ebeveynler için büyük değer taşır.

Kendi deneyiminde, Claude'nin karmaşık vakalarda doğru cevap verme sayısı, doktorundan daha fazla olduğunu söyledi.

Ancak bununla birlikte, lisanslı bir doktor olmadan hiçbir eylemde bulunmayacaktır.

İyi insan olun, iyi işler yapın, iyi iş yapın.

2026 yılındaki Yapay Zeka balonu ve sermaye harcaması riskleriyle yüzleşirken, Daniela bu fırtına merkezindeki hissi bir kelimeyle tanımlıyor: Harrowing (korkutucu).

Büyük belirsizlikler karşısında, bir sonraki nesil girişimcilere iki öneri bıraktı.

Birincisi, gerçekten ilgilendiğiniz şeyi yapın.

Bu, neredeyse söylemek istemeyecek kadar sıradan görünüyor, ancak şeyleri kötüye gittiğinde, eğlenceli olmadığında ve acı verdiğinde bu öneri gerçek değerini ortaya koyar.

Başlangıç noktasına dönebilmeniz ve neden bunu yaptığımı hatırlayabiliyorsanız.

İkinci olarak, ticaret yapmak ve iyi işler yapmak çelişmez.

Bu, son beş ila on yıl içinde gerçekten ortaya çıkan yeni bir kavram olduğunu düşünüyor. “Sadece soğuk ve rahatsız eden insanlar iş yapabilir” fikrini kabul etmiyor.

“İyi şeyler yapma isteği ile iyi bir iş yapmak arasında açık bir pozitif ilişki vardır.” dedi.

Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir. Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.