Ні, немає людини, яка таємно набирає 20% ваших відповідей у ChatGPT. Але сказати, що ШІ працює «без людей», теж неправильно. Ось що насправді відбувається: Людям платили за написання ідеальних відповідей, створення складних запитів, ранжування кількох відповідей ШІ, позначення галюцинацій, маркування шкідливого контенту та визначення, яка відповідь краща. Робота OpenAI над InstructGPT використовувала зовнішніх виконавців для створення прикладів та порівняння вихідних даних моделі. Ці оцінки стали навчальними даними для моделей нагород. Робочий процес виглядає приблизно так: Судження людини → ШІ генерує варіанти → люди їх ранжують → модель вчиться на преференціях → ШІ масштабно повторює це. Сьогодні деякі з цих людських оцінювачів — це програмісти, доктори філософії, юристи, лікарі та інші експерти у своїй галузі — не просто загальні «анотатори даних». Отже, коли ШІ надає вам вишукану відповідь, людина, ймовірно, не сидить за екраном і не схвалює її в реальному часі. Але тисячі людських суджень допомогли навчити машину, як має виглядати «добре» відповідь на початку. ШІ не видалено людський рівень. Він стиснув людський рівень у систему. І зараз ми повільно замінюємо навіть людських оцінювачів на ШІ-оцінювачів. Цей перехід може бути набагато важливішим, ніж «ШІ замінює робочі місця». #psychepreneur #ai #subhamojha