Нууцлаг Төсөл Q* OpenAI-аас гарсан нь мэргэжилтнүүдийн санааг зовоож байна. Тэр үнэхээр хүн төрөлхтөнд аюултай байж чадах уу? Түүний талаар юу мэддэг вэ? Өнгөрсөн долоо хоногт Сэм Алтман ажлаасаа халагдсаны дараа тэр болон багийнхан бараг л нүүсэн Microsoft, дараа нь тэр ажлын байрандаа буцаж ирэв (энэ тухай бид энд бичсэн), OpenAI дахин мэдээнд гарч байна. Энэ удаад зарим судлаачид хүн төрөлхтөнд учирч болзошгүй аюул заналхийлэл гэж нэрлэв. Тийм ээ, та зөв уншсан нь хүн төрөлхтөнд заналхийлж байна.
Технологийн ертөнц дэх жинхэнэ үймээн самууныг Q-Star гэж тодотгосон ерөнхий хиймэл оюун ухааны (AGI) нууцлагдмал төсөл болох Project Q* үүсгэсэн. Энэ төсөл нь эхний шатандаа байгаа хэдий ч AGI бүтээн байгуулалтад үнэхээр шинэлэг болсон гэж үзэж байна. Гэсэн хэдий ч зарим хүмүүс үүнийг хүн төрөлхтний аюул гэж үздэг.
Алдарт хиймэл оюун ухааны OpenAI лабораторийн боловсруулсан нууц хиймэл оюун ухааны төсөл нь технологи болон нийгэмд хувьсгал хийх боломжтой юм. Гэхдээ энэ нь эрсдэлийн талаар ёс зүйн зарим асуултыг бий болгодог. Төслийн Q*-ийн гайхалтай чадваруудын талаар дэлгэрэнгүй мэдээлэл гарч ирэхийн хэрээр энэ нь хүн төрөлхтний ирээдүйд ямар ач холбогдолтой болох талаар олон таамаглал гарч байна.
Мөн сонирхолтой: OpenAI-ийн түүх: Энэ нь юу байсан, компанийг юу хүлээж байна
Хиймэл ерөнхий оюун ухаан (AGI) гэж юу вэ?
Q* (Q-Star) төслийг тойрсон шуугианыг ойлгохын тулд эхлээд хиймэл ерөнхий оюун ухаан (AGI) гэж юу болохыг ойлгохыг хичээцгээе. Одоогийн хиймэл оюун ухааны системүүд шатар тоглох, зураг үүсгэх гэх мэт нарийн, тодорхой ажлуудыг гүйцэтгэхэд илүү сайн байдаг бол ерөнхий хиймэл оюун ухаан нь олон салбарт хүний түвшинд сурч, сэтгэх чадвартай машинуудыг хэлдэг. Өөрөөр хэлбэл, тэд бага насны хүүхдүүд шиг, жишээлбэл, математик, хими, биологи гэх мэт үндсэн хичээлүүдийг сурч болно.
Ерөнхий хиймэл оюун ухаан (AGI) нь хүний оюун ухаан, зан үйлийг таамаглан дуурайж чаддаг, янз бүрийн асуудлыг шийдвэрлэхэд суралцах, ашиглах чадвартай машин оюун ухааны нэг төрөл юм. AGI-ийг мөн хүчирхэг хиймэл оюун ухаан, бүрэн хиймэл оюун ухаан эсвэл хүний түвшний хиймэл оюун ухаан гэж нэрлэдэг. Ерөнхий хиймэл оюун ухаан нь зөвхөн өгөгдсөн параметрийн хүрээнд тусгай эсвэл тусгай даалгавруудыг гүйцэтгэх чадвартай сул буюу нарийн хиймэл оюун ухаанаас ялгаатай. ZHI нь мэдлэгийн янз бүрийн салбараас янз бүрийн нарийн төвөгтэй асуудлыг бие даан шийдвэрлэх боломжтой болно.
Хиймэл оюун ухаан бүтээх нь DeepMind, Anthropic зэрэг компаниудын хиймэл оюун ухааны судалгааны гол чиглэл юм. CSI бол шинжлэх ухааны зөгнөлт уран зохиолд маш их алдартай сэдэв бөгөөд ирээдүйн судалгааг тодорхойлж магадгүй юм. Зарим нь хэдэн жил эсвэл хэдэн арван жилийн дотор UCI-ийг бий болгох боломжтой гэж маргадаг бол зарим нь нэг зуун ба түүнээс дээш хугацаа шаардагдана гэж маргадаг. Гэвч үүнд хэзээ ч хүрэхгүй гэж үзэх хүмүүс байдаг. Зарим нь GPT-3-д URI-ийн эхлэлийг харсан ч үндсэн шалгуурыг хангахаас хол байгаа бололтой.
Хиймэл ерөнхий оюун ухааныг (AGI) бүтээх нь хиймэл оюун ухааны ариун нандин зүйл гэж судлаачид үздэг бөгөөд энэ нь тэдний төсөөллийг удаан хугацаанд эзэмдсэн онолын боломж юм. Тиймээс OpenAI Project Q* гэх мэт төсөл гарч ирсэн нь хиймэл оюун ухааны алгоритмын судалгааны ертөнцөд асар их резонанс үүсгэв. Хэдийгээр эдгээр нь хиймэл оюун ухаан нь хүмүүстэй ижил чадвартай, эсвэл бүр илүү өндөр чадвартай ертөнцөд хүрэх эхний алхамууд гэдгийг бүгд ойлгодог.
Мөн сонирхолтой: Бүх талаар Microsoft Туслах нисгэгч: ирээдүй эсвэл буруу зам уу?
Project Q* гэж юу вэ?
Төсөл Q* нь ердийн алгоритм биш, учир нь энэ нь хиймэл оюун ухааны загвар бөгөөд хиймэл ерөнхий оюун ухааны (AGI) загварт улам бүр ойртож байна. Энэ нь ChatGPT-ээс ялгаатай нь Project Q* нь бусад алгоритмуудтай харьцуулахад илүү сайн сэтгэн бодох, танин мэдэхүйн чадварыг харуулдаг гэсэн үг юм. ChatGPT нь одоогоор асар их хэмжээний бодит материалд тулгуурлан асуулгад хариулдаг боловч AGI-ийн тусламжтайгаар AI загвар нь үндэслэл, сэтгэн бодох, ойлгох чадварыг сурах болно. Төсөл Q* нь сургалтын материалын нэг хэсэг биш байсан энгийн математикийн асуудлыг шийдвэрлэх чадвартай гэдгийг аль хэдийн мэддэг болсон. Үүгээрээ зарим судлаачид ерөнхий хиймэл оюун ухааныг (AGI) бий болгох чухал алхам гэж үзэж байна. OpenAI нь AGI-ийг хүмүүсээс илүү ухаалаг хиймэл оюун ухааны систем гэж тодорхойлдог.
Төслийн Q*-ийн хөгжлийг OpenAI-ийн ахлах эрдэмтэн Илья Суцкевер удирддаг бөгөөд түүний үндэслэлийг судлаач Якуб Пахоцки, Шимон Сидор нар нотолсон.
Эдгээр бодлого нь сургалтын өгөгдлийн багцад ороогүй байсан ч алгоритм нь математикийн асуудлыг бие даан шийдвэрлэх чадварыг хиймэл оюун ухааны салбарт гарсан нээлт гэж үздэг. Энэхүү төслийн талаархи багийн санал зөрөлдөөн нь OpenAI-ийн гүйцэтгэх захирал Сэм Алтманыг түр огцруулсантай холбоотой юм. Алтманыг ажлаас нь халахаас өмнө компанийн хэсэг судлаачид хүн төрөлхтөнд аюул учруулж болзошгүй хиймэл оюун ухаан нээсэн талаар анхааруулсан захидал ТУЗ-д илгээсэн нь мэдэгдэж байна. Төслийн Q* алгоритмын талаар хэлэлцсэн тэр захидал нь Алтманыг халахад хүргэсэн хүчин зүйлсийн нэг гэж дурджээ. Гэсэн хэдий ч Q* төслийн чадавхи, учирч болох эрсдэлүүд нь нарийн ширийн зүйл тодорхойгүй байгаа тул бүрэн ойлгогдоогүй байна. Олон нийтэд мэдээлсэн зүйл алга.
Үндсэндээ Project Q* нь байгаль орчны талаар урьдчилж мэдлэг шаарддаггүй уламжлалт загвараас салсан загваргүй бататгах сургалтын арга юм. Харин шагнал, шийтгэл дээр суурилсан үйлдлүүдийг дасан зохицож, туршлагаараа суралцдаг. Техникийн мэргэжилтнүүд Project Q* нь хүний танин мэдэхүйн чадвартай төстэй чадварыг эзэмшсэнээр гайхалтай чадваруудыг олж авах боломжтой гэж үзэж байна.
Гэсэн хэдий ч судлаачид, шүүмжлэгчдийн санааг зовоож, технологийн бодит хэрэглээ болон учирч болох эрсдэлийн талаар айдас төрүүлж буй хиймэл оюун ухааны шинэ загварт хамгийн гайхалтай нь энэ онцлог юм. Эрдэмтэн, судлаачид юунаас тэгтлээ айдаг вэ? Үүнийг олж мэдье.
Мөн сонирхолтой: Wi-Fi 6-г дэмжихийн тулд гэрийн төхөөрөмжүүдээ хэрхэн шинэчлэх вэ
Тэд үл мэдэгдэх зүйлээс айдаг
Хүмүүс үл мэдэгдэх, үл мэдэгдэх зүйлээс үргэлж айдаг. Энэ бол хүний мөн чанар, бидний зан чанар, амьдралын хэв маягийн онцлог юм.
Технологийн ертөнц Ройтерс агентлагийн дараа 2023 оны -р сард Q* төслийн талаар мэдсэн мэдээлэв холбогдох OpenAI судлаачдын бичсэн дотоод захидлын тухай. Захидлын агуулга тодорхой бус байсан ч Q* төслийн чадавхийг нухацтай шинжилсэн гэж мэдээлсэн. Дээр дурдсанчлан, Сэм Алтманыг огцроход яг энэ захидал нөлөөлсөн гэсэн таамаг ч бий.
Энэхүү тэсрэлттэй нээлт Q* төслийн мөн чанарын талаар янз бүрийн таамаглал дэвшүүлсэн. Эрдэмтэд энэ нь хиймэл оюун ухааны хувьд хувьсгалт байгалийн хэлний загвар байж магадгүй гэж үзэж байна. Хиймэл оюун ухааны бусад хэлбэрүүдэд зориулж, эсвэл энэ салбарт огт өөр зүйлд зориулан бүтээх шинэ алгоритмуудын нэг төрлийн зохион бүтээгч.
Алтманы ерөнхий хиймэл оюун ухааны талаар "дундаж ажилтан" гэсэн өдөөн хатгасан тайлбарууд нь ажлын байрны аюулгүй байдал болон хиймэл оюун ухааны нөлөө зогсоож боломгүй тэлэхэд санаа зовнилыг хэдийнэ төрүүлсэн. Энэхүү нууцлаг алгоритм нь хиймэл ерөнхий оюун ухааныг (AGI) хөгжүүлэх чухал үе гэж тодорхойлсон. Гэсэн хэдий ч энэ чухал үе нь үнэтэй гэдгийг хүн бүр ойлгодог. Мөн энэ нь одоо мөнгөний тухай биш юм. Хиймэл оюун ухааны шинэ загварын амласан танин мэдэхүйн чадварын түвшин нь тодорхойгүй байдлыг дагуулж байна. OpenAI-ийн эрдэмтэд хиймэл оюун ухаан нь хүний түвшний сэтгэлгээтэй болно гэж амлаж байна. Энэ нь бид олон зүйлийг мэдэж, үр дагаврыг нь урьдчилан таамаглах боломжгүй гэсэн үг юм. Үл мэдэгдэх тусам үүнийг хянах эсвэл засахад бэлтгэх нь илүү хэцүү байдаг. Өөрөөр хэлбэл, шинэ алгоритм нь өөрийгөө сайжруулах, хөгжүүлэх чадвартай. Үүнийг бид аль хэдийн хаа нэгтээ харсан ...
Мөн сонирхолтой: Windows 12: Шинэ үйлдлийн систем юу байх вэ
Project Q-ийн чадавхийн тухай гайхалтай дэлгэрэнгүй мэдээлэл*
Илүү их мэдээлэл гарч эхлэхэд олон судлаачдыг цочирдуулсан. Төслийн Q* нь математикийн гайхалтай авьяастай байсан нь анхны шинж тэмдэг байв. Механик тооцоолол хийдэг тооцоолуураас ялгаатай нь Project Q* нь математикийн нарийн төвөгтэй асуудлыг шийдвэрлэхийн тулд логик, үндэслэлийг ашиглах боломжтой гэж үздэг. Энэхүү математикийн чадвар нь өргөн хүрээний оюун ухааныг хөгжүүлэх зөвлөмжийг өгдөг.
Ердийн хиймэл оюун ухааныг сургахад ашигладаг тусгай өгөгдлийн багцгүйгээр Project Q*-ийн бие даасан сургалт нь урагшлах томоохон алхам болно. Project Q* нь өөр ур чадвар эзэмшсэн эсэх нь тодорхойгүй хэвээр байна. Гэвч түүний математикийн чадвар нь өөрөө маш гайхалтай тул туршлагатай судлаачдыг хүртэл төөрөлдүүлдэг.
Мөн уншина уу: Хүний тархины төсөл: Хүний тархийг дуурайх оролдлого
Төслийн Q* давамгайлах зам?
Энэ асуудалд өөдрөг, гутранги хоёр хувилбар бий. Төсөл Q* нь технологийн дэвшилд хүргэх оч байж магадгүй гэж өөдрөг үзэлтнүүд хэлэх болно. Систем өөрөө өөрийгөө сайжруулахын хэрээр түүний ер бусын оюун ухаан нь уур амьсгалын өөрчлөлтөөс эхлээд өвчинтэй тэмцэх хүртэл хүн төрөлхтний хамгийн тулгамдсан асуудлыг шийдвэрлэхэд тусалдаг. Төсөл Q* нь уйтгартай ажлыг автоматжуулж, бусад үйл ажиллагаанд бидний чөлөөт цагийг чөлөөлөх боломжтой.
Хэдийгээр илүү олон гутранги сонголтууд байдаг. Заримдаа тэд нэлээд үндэслэлтэй бөгөөд тодорхой утгатай байдаг.
Ажлын байраа алдах
Технологийн хөгжлийн хурдацтай өөрчлөлт нь хүмүүсийн хувь хүний дасан зохицох чадвараас давж гардаг. Энэ нь шинэ бодит байдалд дасан зохицоход шаардлагатай ур чадвар, мэдлэгийг олж авах боломжгүй нэг буюу хэд хэдэн үеийг алдахад хүргэнэ. Өөрөөр хэлбэл, энэ нь эргээд цөөн хүн ажлын байраа хадгалах боломжтой болно гэсэн үг юм. Үүний оронд машин, автоматжуулсан систем, роботууд гүйцэтгэнэ. Гэсэн хэдий ч мэргэшсэн мэргэжилтнүүдийн тухай ярихад хариулт нь тийм ч тодорхой биш юм. Үүнээс гадна хиймэл оюун ухааны алгоритмыг хөгжүүлэхтэй холбоотой шинэ мэргэжлүүд гарч ирж магадгүй юм. Гэвч эрсдэл байсаар байгаа бөгөөд хүн төрөлхтөн үүнийг үл тоомсорлох эрхгүй.
Хяналтгүй хүчний аюул
Төсөл Q* шиг хүчирхэг хиймэл оюун ухаан муу санаатай хүмүүсийн гарт орвол энэ нь хүн төрөлхтөнд гамшигт үр дагаварт хүргэх эрсдэлтэй. Боломжит хорлонтой санаа зорилгогүй байсан ч Q* төслийн шийдвэр гаргах түвшин нь түүний хэрэглээг сайтар үнэлэхийн чухал ач холбогдлыг онцолж, хортой үр дагаварт хүргэж болзошгүй юм.
Төслийн Q* нь хүний хэрэгцээнд тааруухан оновчлогдсон бол энэ нь зарим дур зоргоороо хэмжигдэхүүнийг нэмэгдүүлэх чадвараараа хор хөнөөл учруулж болзошгүй юм. Эсвэл төрийн хяналтад ашиглах, хэлмэгдүүлэх гэх мэт улс төрийн шинж чанартай байж болно. Q* төслийн нөлөөллийн шинжилгээний эргэн тойронд нээлттэй мэтгэлцээн хийх нь ZHI-ийг хөгжүүлэх боломжит хувилбаруудыг тодорхойлоход тусална.
Биднийг "Хүн vs. Машин" тулаан хүлээж байна уу?
Холливуд кинондоо ийм сөргөлдөөний олон сценарийг аль хэдийн бүтээжээ. Алдарт SkyNet болон ийм нээлтийн үр дагаврыг бид бүгд санаж байна. OpenAI судлаачид энэ киног дахин үзэх хэрэгтэй болов уу?
Хүн төрөлхтөн дохио, сорилтыг хүлээн авч, тохиолдож болох зүйлд бэлэн байх хэрэгтэй. Хүн шиг сэтгэх чадвартай хиймэл оюун ухааны загвар хэзээ нэгэн цагт бидний дайсан болж магадгүй. Ирээдүйд эрдэмтэд нөхцөл байдлыг хэрхэн хяналтандаа байлгахыг яг таг мэдэх болно гэж олон хүн маргах болно. Гэхдээ машинуудын тухайд гэвэл тэд хүмүүсийг булаан авахыг оролдохыг бүрэн үгүйсгэж болохгүй.
Мөн сонирхолтой: Бидний хиймэл оюун гэж нэрлэдэг бүх зүйл үнэндээ хиймэл оюун ухаан биш юм. Эндээс та юу мэдэх хэрэгтэй вэ
OpenAI яагаад чимээгүй байна вэ?
Төслийн Q*-д олон нийтийн сонирхол ихэд унасан ч OpenAI-ийн удирдлага алгоритмын онцлогийн талаар чимээгүй байна. Гэхдээ дотоод гоожсон байдал нь тэргүүлэх чиглэл, хөгжлийн нээлттэй байдлаас шалтгаалан лабораторид хурцадмал байдал нэмэгдэж байгааг харуулж байна. OpenAI-ийн олон хүмүүс Project Q*-ийг бий болгохыг дэмжиж байгаа ч шүүмжлэгчид ил тод байдал нь шинжлэх ухааны дэвшлийг ямар ч үнээр хамаагүй хурдасгахад арын суудал авсан гэж шүүмжилдэг. Зарим судлаачид зорилго нь хүний үнэт зүйл, ёс зүйтэй давхцах албагүй системүүдэд гайхалтай хүч өгдөг гэж санаа зовж байна. Эдгээр судлаачид хяналт, хариуцлагын талаарх мэтгэлцээнүүд маш аюултай хэмжээнд хүрээд байна гэж үзэж байна. Тэд илүү их сурталчилгаа, дэлгэрэнгүй мэдээлэл шаарддаг.
Төслийн Q*-ийг бүтээгчдийн хувьд OpenAI нь нийгмийн хөгжлийн боломжийг ихээхэн өргөжүүлэх, эсвэл түүнийг харгислалгүйгээр устгах технологитой гэдгээ ойлгох ёстой. Ийм чухал шинэлэг зүйл нь олон нийтийн итгэлийг бий болгохын тулд илүү ил тод байх ёстой. Машины эрин үеийн аливаа прогнозчид ашиг тусын зэрэгцээ эрсдлийг сайтар нягталж үзэх ёстой. Төслийн Q*-ийг хөгжүүлэгчид бидний төсөөлж байснаас ч хурдан гарч болзошгүй ерөнхий хиймэл оюун ухааны шинэ эрин үе рүү нийгмийг аюулгүйгээр оруулахын тулд хангалттай мэргэн ухаан, анхаарал халамж үзүүлэх хэрэгтэй.
Ерөнхий хиймэл оюун ухаан нь хүн төрөлхтөнд ашигтай, аюулгүй байхын тулд аюулгүй, ёс зүйтэй, хүн төрөлхтний үнэт зүйл, зорилгод нийцүүлэн ажиллах ёстой. Энэ нь ИНЕГ-ын үйл ажиллагаа, зан үйлийг хянаж, хязгаарлах зохих зохицуулалтын акт, стандарт, дүрэм, протоколыг боловсруулж хэрэгжүүлэхийг шаарддаг. Түүнчлэн хүн төрөлхтнийг сүйрүүлэхэд хүргэж болзошгүй хүчирхийлэл, осол аваар, үл нийцэх байдал, заль мэх, зөрчилдөөнтэй холбоотой болзошгүй аюул, эрсдэлийг арилгах ёстой. Үүний зэрэгцээ хөрөнгө оруулагчид болон Microsoft ашиг олох боломжтой зах зээлд гарах бүтээгдэхүүнийг тэсэн ядан хүлээж байгаа нь хариуцлагатай ажиллах шаардлагатай зөрчилдөх нь дамжиггүй. Эрүүл ухаан ялна гэж найдъя.
Мөн уншина уу: