Ana içeriğe atla

Kayıtlar

RLHF etiketine sahip yayınlar gösteriliyor

Bölüm #3: Amigdala ve Duygusal Biliş - Risk Algısı, Ödül Sistemleri ve Pekiştirmeli Öğrenme (RL)

Bilişsel Mimariler ve İnsan Beyni Serisi • Bölüm #3 Amigdala ve Duygusal Biliş: Risk Algısı, Ödül Sistemleri ve Pekiştirmeli Öğrenme (RL) Serimizin ilk iki bölümünde mantığın yöneticisi Prefrontal Korteks ’i ve hatıraların mimarı Hipokampus ’u masaya yatırdık. Ancak yüzyıllar boyunca felsefeyi ve bilimi meşgul eden büyük bir yanılgı vardır: "Zeka, duygulardan arınmış saf bir mantık işlemcisidir." Modern nörobiyoloji bu miti tamamen yıktı. İnsan beyninde duygu, mantığın düşmanı değil; tam tersine hayatta kalmayı, riskleri tartmayı ve kararları önceliklendirmeyi sağlayan en temel hesaplama motorudur. Bu motorun tam kalbinde ise badem büyüklüğündeki antik bir çekirdek yer alır: Amigdala . Bugün yapay zekanın "kontrolden çıkmasını" engelleyen güvenlik bariyerleri, Pekiştirmeli Öğrenme (Reinforcement Learning - RL) ve İnsan Geri Bildirimiyle Hizalama (RLHF / RLAIF) sistemleri, aslında Amigdala’nın milyonlarca yıldır canlıları hayatta tut...