Хиймэл оюуны хамгийн хүчирхэг хоёр компанийн нэг болох Anthropic-ийн ард ах дүү Дарио ба Даниела Амодей нар зогсож байна. TIME сэтгүүл тэднийг TIME100 AI-д шалгаруулахдаа "Аюулгүй байдлыг зөвхөн лоозон биш, бодит технологийн давуу тал болгон хувиргасан цорын ганц хамтрагчид" хэмээн тодорхойлсон юм.
Дарио Амодей бол GPT-2 болон GPT-3-ийн ард зогссон гол онолчдын нэг. Гэвч 2020 онд OpenAI-ийн чиглэл хэт арилжаажиж, Microsoft-той байгуулсан гэрээ нь аюулгүй байдлын судалгааг хоёрдугаарт тавьж эхэлснийг анзаармагц тэрбээр өөрийн гол багийн хамт гарч, 2021 онд Anthropic-ийг "Нийтийн ашиг тусын корпорац" (PBC) хэлбэрээр үүсгэн байгуулжээ.
Амодейгийн удирдлага дор Anthropic нь дараах хоёр хувьсгалыг хийсэн:
- Constitutional AI (Үндсэн хуульт хиймэл оюун): Загварыг зөвхөн хямд ажиллах хүчээр шүүх (RLHF) бус, харин НҮБ-ын Хүний эрхийн түгээмэл тунхаглал зэрэг баримт бичгүүдийг өөрт нь суулгаж, өөрөө өөрийнхөө хариултыг хянадаг өөрийн шүүлтүүрийн зарчмыг анх нэвтрүүлсэн.
- Mechanistic Interpretability (Нейрон сүлжээний рентген зураг): LLM-ийг тайлагдашгүй "хар хайрцаг" байлгахгүйн тулд загварын дотор аль нейрон ямар ойлголтыг (худал хэлэх, кодлох, зальдах) хариуцаж буйг нүдээр харах шинжилгээний аргыг нээсэн.
- Claude 3.5 Sonnet: Програмчлал, логик сэтгэлгээ, бичвэрийн найруулгаар дэлхийн бүх моделиудыг тэргүүлж, хөгжүүлэгчдийн хамгийн дуртай загвар болж чадсан.
Дарио Амодей саяхан "Machines of Loving Grace" хэмээх 15,000 үгтэй тунхаглалаа нийтэлж, аюулгүй AGI нь 10 жилийн дотор биологи, анагаах ухааны зуун жилийн ахицыг авчрах боломжтойг зарласан. Тэрбээр дэлхийн засгийн газруудад "Бид хамгийн аюултай супер загваруудын хөгжүүлэлтийн хурдыг түр сааруулах ёстой" хэмээн сануулж буй хамгийн нөлөөтэй дуу хоолой юм.
