© ROOT-NATION.com - Энэ нийтлэлийг хиймэл оюун ухаан автоматаар орчуулсан. Алдаа гаргасан тохиолдолд хүлцэл өчье. Эх нийтлэлийг уншихын тулд сонгоно уу English дээрх хэл шилжүүлэгч дээр.
AI-ийн хувьсгалд бид үнэхээр цоо шинэ зүйлийг харж байна гэдэгт итгэхэд бэрх. Мөн энэ нь улс төрийн тухай биш - энэ нь математикийн тухай юм. Асуудал нь AI хий үзэгдэлтэй холбоотой юм.
Тооны машин хааяа 2+2=5 гэж хэлдэг ертөнцийг төсөөлөөд үз дээ. Эсвэл нягтлан бодох бүртгэлийн программ хангамж хэзээ ч болж байгаагүй гүйлгээг зохион бүтээдэг. утгагүй сонсогдож байна, тийм үү? Гэсэн хэдий ч энэ бол өнөөгийн хиймэл оюун ухааны хувьсгалтай хамт бидний алхаж буй ертөнц юм.
Дижитал эриний эхэн үеэс л нэг зүйл тодорхой байсан - компьютерууд эвдэрч, принтерүүд буруу ажиллаж, хэрэглэгчид үхлийн цэнхэр дэлгэцээр галзууруулж болно. Гэхдээ энэ бүхний туршид тэд нэг зүйлийг өө сэвгүй хийнэ гэдэгт итгэж байсан: тооцоо хийх. Хэдэн арван жилийн турш бий болсон итгэлцлийн үндэс нь одоо мэргэжилтнүүдийн хиймэл оюун ухааны хий үзэгдэл гэж нэрлэгдэх зүйлээр байнга эвдэрч байна.
Компьютерийн түүх нь олон нийтийн сүлжээ, видео тоглоомоос эхлээгүй, харин нарийн төвөгтэй тооцоолол хийх хэрэгцээ шаардлагаас үүдэлтэй юм. Анхны ерөнхий зориулалттай электрон компьютер ENIAC нь 7х13 метрийн хэмжээтэй өрөөнд 18,000 шахам вакуум хоолой, олон мянган реле байрлуулсан байв. Энэхүү том машиныг их бууны буудлагын ширээг тооцоолох, устөрөгчийн бөмбөг бүтээх ажилд туслах зорилгоор бүтээжээ. Энэ нь секундэд 5,000 нэмэх, 350 үржүүлэх, 40 хуваах үйлдлийг тухайн үеийн төсөөлж байснаас ч хурдан гүйцэтгэх боломжтой.
Түүнээс хойш 75 гаруй жил өнгөрч, компьютерууд асар их өөрчлөлтийг авчээ. Өрөөний хэмжээтэй аварга томоос эхлээд бидний халаасанд багтахуйц жижиг төхөөрөмж болон хувирсан. Технологийн бүх хувьсгалыг үл харгалзан тэдний үндсэн зорилго нь хэвээрээ байсан - компьютерууд нь юуны түрүүнд тооцоолох зориулалттай машинууд юм.
Мөн уншина уу: Техно-феодализм - Дэлхийн дэг журмын шинэ хэлбэр
Excel – та итгэж болох математик
Энэ тасралтгүй байдлын сайн жишээ юм Microsoft Excel бол программ нь үндсэндээ харааны тооцоолуур юм. Олон арван жилийн хугацаанд Excel нь жижиг бизнесээс эхлээд үндэстэн дамнасан корпорацууд, өрхийн төсвөөс эхлээд Уолл Стрийтийн санхүүгийн цогц загварууд хүртэл дэлхийн эдийн засгийн гол тулгуур болсон. Хэдийгээр энэ нь шүүмжлэгчид, хязгаарлалттай боловч нэг зүйл тогтвортой хэвээр байна: тооцоолол нь найдвартай.
Мэдээжийн хэрэг Excel дээр алдаа гарч болно. Нийтлэг жишээ бол #VALUE! Бид тоонуудын оронд текстэн дээр математикийн үйлдэл хийхийг оролдох үед гарч ирдэг мессеж. Гэхдээ энэ бол гол ялгаа юм - ийм алдаа нь үргэлж тодорхой, тодорхойлогддог шалтгаан, шууд засвартай байдаг. Хамгийн чухал нь Excel хэзээ ч үр дүнг таамаглаж, зохион бүтээдэггүй. =SUM(A1:A10) томьёо нь таныг анх удаагаа эсвэл мянга дахь удаагаа ажиллуулж байгаа эсэхээс үл хамааран ижил оролтын хувьд үргэлж ижил гаралтыг буцаана.
Уламжлалт програм хангамжийн энэхүү тодорхойлогч шинж чанар нь бидний компьютерт итгэх итгэлийг хэдэн арван жилийн турш бэхжүүлсээр ирсэн. Бид хэрэглэгчийн интерфэйс, гүйцэтгэл, нийцтэй байдлын талаар гомдоллож магадгүй ч бид үр дүнгийн математикийн үнэн зөв эсэхийг хэзээ ч эргэлзэж байгаагүй.
Мөн уншина уу: Панамын суваг: Барилгын түүх ба АНУ-ын нэхэмжлэлийн үндэс
AI хий үзэгдэл - математик төсөөлж эхлэх үед
Энэ нь биднийг өнөөгийн хиймэл оюун ухааны хувьсгалын гол асуудалд авчирдаг. Орчин үеийн AI загварууд, ялангуяа том хэлний загварууд (LLMs) нь уламжлалт програм хангамжаас үндсэндээ ялгаатай. Тодорхой, тодорхойлогч үйлдлүүдийг гүйцэтгэхийн оронд тэдгээр нь их хэмжээний өгөгдлийн багц дахь хэв маягийг таньж, тэдгээр загварт тулгуурлан үнэмшилтэй хариултуудыг бий болгох зорилготой юм.
Архитектурт гарсан энэхүү үндсэн өөрчлөлт нь хиймэл оюун ухааны загварууд нь бодит мэт боловч огт буруу эсвэл бодит байдлаас тасархай мэдээлэл үүсгэдэг тохиолдол болох хиймэл оюун ухааны хий үзэгдэл гэж нэрлэдэг зүйлд хүргэдэг. Хамгийн чухал нь эдгээр хий үзэгдэл нь санамсаргүй алдаа биш юм; Эдгээр нь эдгээр системийн мөн чанарын үр дүн юм - сургалтын өгөгдөл, загвар бүтээх, загвар нь асуултуудыг тайлбарлах арга замуудын хоорондын цогц харилцан үйлчлэл юм.
Хамгийн анхаарал татсан зүйл бол хиймэл оюун ухаант хий үзэгдэл нь бодит мэдээлэлтэй адил итгэлтэйгээр илэрдэг. Загвар өмсөгч Киев бол Украйны нийслэл (энэ нь үнэн), 1995 оны зуны олимпийг зохион байгуулсан (энэ нь бүхэлдээ зохиомол) гэдгийг итгэлтэйгээр хэлж чадна. Хэрэглэгчийн хувьд, ялангуяа мэргэжлийн бус хүмүүсийн хувьд хий үзэгдэлээс ялгах нь туйлын хэцүү байдаг.
Мөн уншина уу: Үүнийг ашиглах эсвэл алдах: AI хүний сэтгэлгээг хэрхэн өөрчилдөг вэ?
Галлюцинацияны асуудлын цар хүрээ
Хэдийгээр хиймэл оюун ухааны хий үзэгдлийн давтамжийн талаар нарийн статистик гаргахад хэцүү ч энэ нь бүх том хэлний загварт нөлөөлдөг өргөн тархсан асуудал гэдгийг мэргэжилтнүүд хүлээн зөвшөөрч байна. Мэдээлэл шалгах үр дүнтэй механизм дутмаг, хуучирсан өгөгдөлд тулгуурладаг, асуулгын нөхцөлийг зөв тайлбарлаж чаддаггүй системүүд хий үзэгдэлд хамгийн өртөмтгий байдаг.
Галлюцинация үүсэх шалтгаан нь нарийн төвөгтэй, олон давхаргат байдаг. Гол хүчин зүйлүүдийн дунд шинжээчид дараахь зүйлийг онцлон тэмдэглэв.
-
Сургалтын өгөгдлийн төгс бус байдал: Загварыг сургахад ашигласан өгөгдөл нь алдаа, алдаа, зөрчилтэй мэдээлэл агуулсан байвал загвар нь эдгээр асуудлуудыг давтаж эсвэл шинэ, хуурамч контент үүсгэж болзошгүй.
- Загварыг хэт тохируулах: Энэ нь алгоритм нь сургалтын өгөгдлийн багцад хэт нягт дасан зохицож, шинэ хэв маягийг нэгтгэн дүгнэх, зөв тодорхойлох чадвараа алдах үед тохиолддог.
- Загварын дизайны алдаатай таамаглалууд: Хэрэв хиймэл оюун ухаан хөгжүүлэгчид буруу таамаглал дээр үндэслэн дизайныг хийвэл загвар нь байнга хий үзэгдэл үүсгэдэг.
Ялангуяа хий үзэгдэлд өртөмтгий хиймэл оюун ухааны системийн тодорхой жишээнд Qwen болон DeepSeek. Технологийн дэвшлийг үл харгалзан эдгээр загварууд энэ асуудалтай тулгарсаар байна. Тэд ихэнхдээ үнэн зөв мэт боловч үнэн хэрэгтээ худал эсвэл бодит байдалтай нийцээгүй мэдээллийг үүсгэдэг, ялангуяа өгөгдөл нь бүрэн бус эсвэл зөрчилтэй байж болзошгүй нөхцөлд.
Мөн уншина уу: Бүх талаар Microsoftийн Majorana 1 Квант процессор: нээлт үү эсвэл хувьсал уу?
Итгэлийн асуудал - 98% нь хангалтгүй хэвээр байна
Эндээс бид итгэлцлийн үндсэн асуудалд хүрлээ. Уламжлалт програм хангамжид алдаа нь дүрэм биш харин үл хамаарах зүйл байсан. Хиймэл оюун ухааны хувьд хий үзэгдэл нь системийн үйл ажиллагааны салшгүй хэсэг юм. Загвар нь 98% нь үнэн зөв мэдээлэл үүсгэдэг байсан ч үлдсэн 2% нь ноцтой асуудал болдог.
Тооцоологч ашиглан 98% зөв үр дүнг өгдөг гэж төсөөлөөд үз дээ, гэхдээ 2% тохиолдолд буруу хариулт өгдөг. Татвар тооцох, анагаах ухаан хөгжүүлэх, гүүр барих гэх мэт ажилд ийм төхөөрөмж итгэх үү? Хариулт нь тодорхой.
AI хий үзэгдэлтэй холбоотой асуудал нь анагаах ухаан, хууль эрх зүй, санхүү, инженерчлэл зэрэг бүрэн нарийвчлал, бодит үнэнийг шаарддаг салбарт онцгой чухал юм. Эдгээр газруудад алдаа гарах өчүүхэн ч гэсэн гамшигт үр дагаварт хүргэж болзошгүй юм.
Мөн уншина уу: AI дахь тектоник шилжилт: байна Microsoft Бооцоо тавих DeepSeek?
Excel-ийн эсрэг хиймэл оюун ухаан: тооцоолол ба конфабуляци
Excel дээр #VALUE шиг алдаа гарсан үед! гарч ирвэл програм нь ямар нэг зүйл буруу болсныг тодорхой харуулж байна. Энэ нь үр дүнг таамаглах эсвэл асуудлыг нуухыг оролддоггүй. Түүнчлэн, ийм алдааг хэрхэн шийдвэрлэх талаар тодорхой зөвлөмжүүд байдаг - жишээлбэл, математикийн томьёоны бүх утгыг текст биш харин тоо гэж баталгаажуулах.
Нөгөөтэйгүүр, хиймэл оюун ухааны системийн хувьд загвар нь хариултаа мэдэхгүй үед мэдлэг дутмаг гэдгээ хүлээн зөвшөөрөхөөс илүү үнэмшилтэй боловч худал хариултыг бий болгодог. Хамгийн аймшигтай нь хэрэглэгч өгсөн мэдээлэл нь хий үзэгдэл гэдгийг ойлгохгүй байх явдал юм.
дагуу SalesforceМэдээлэл, аналитикийн төлөв байдлын талаарх тайланд 9 шинжээчийн 10 нь (бараг 87%) нь хиймэл оюун ухаан дахь ахиц дэвшил мэдээллийн менежментэд илүү ач холбогдол өгч байгааг хүлээн зөвшөөрч байна. Гэсэн хэдий ч ижил тайланд судалгаанд оролцогчдын мэдээллийн үнэн зөв эсэх талаар тодорхойгүй байдал, AI-ийн хүрээнд мэдээллийн аюулгүй байдлын талаархи санаа зовнилыг онцолж байна.
Мөн уншина уу: Тайвань, Хятад, АНУ технологийн ноёрхлын төлөө хэрхэн тэмцэж байна вэ: агуу чипний дайн
Хиймэл оюун ухааныг дэмжигчид хий үзэгдэлтэй холбоотой асуудлыг мэдээллийг баталгаажуулах замаар шийдвэрлэх боломжтой гэж үздэг. Үнэн хэрэгтээ, хиймэл оюун ухааны системийн үр дүнг шалгах, баталгаажуулах нь эдгээр технологийг ашигладаг байгууллага бүрт зайлшгүй шаардлагатай туршлага болж байна. Гэсэн хэдий ч асуудал нь баталгаажуулах хэрэгцээ нь эдгээр системийн үнэ цэнийг эрс бууруулдаг явдал юм.
Энэ байдлыг төсөөлөөд үз дээ - бид хиймэл оюун ухааны туслахаас цахилгаан тээврийн хэрэгслийн зах зээлийн талаар тайлан бичихийг хүсдэг. Систем нь статистик, чиг хандлага, урьдчилсан мэдээгээр дүүргэсэн 20 хуудас баримт бичгийг үүсгэдэг. Баримт бичиг нь мэргэжлийн мэт харагдаж, үнэмшилтэй аргументуудыг агуулдаг. Асуудал нь мэдээллийн аль хэсэг нь үнэн зөв, аль нь хиймэл оюун ухааны хий үзэгдэл болохыг мэдэхгүй байгаа явдал юм. Үүнийг тодорхойлохын тулд бид статистик, мэдэгдэл, баримт бүрийг шалгах хэрэгтэй болно. Энэ нь үнэндээ хиймэл оюун ухааны систем бидний төлөө хийх ёстой ажлыг хийж байна гэсэн үг.
Энэ бол одоогийн хиймэл оюун ухааны хувьсгалын үндсэн парадокс бөгөөд бидний цагийг хэмнэх ёстой байсан системүүд үр дүнгээ баталгаажуулахын тулд нэмэлт ажил шаарддаг. Excel гэх мэт уламжлалт програм хангамжийг ашиглах тохиолдолд бид тооцооллын үр дүнд итгэж, өгөгдлийг тайлбарлахад анхаарлаа төвлөрүүлж чадна.
Мөн уншина уу: USB стандарт болон техникийн үзүүлэлтүүдийн талаар
AI-ийн математикийн хувьд төгс бус ертөнц
AI системд итгэх итгэлгүй байгаа нь технофоби эсвэл өөрчлөлтийг эсэргүүцэх асуудал биш юм. Энэ нь хүн ба компьютерийн хоорондын харилцааг өөрчлөхөд оновчтой хариу үйлдэл юм. Хэдэн арван жилийн турш бид тооцоолох машинуудын найдвартай байдалд тулгуурлан харилцаа холбоог бий болгосон. Одоо бид угаасаа ижил түвшний найдвартай байдлыг баталгаажуулж чадахгүй магадлалын загваруудын эрин үе рүү орж байна.
Магадгүй үүнийг тодорхойлох хамгийн зөв арга бол хүмүүсийн харилцааны зүйрлэл юм. Уламжлалт програм хангамж нь нэвтэрхий толь шиг байдаг - энэ нь бүрэн бус эсвэл хуучирсан мэдээлэл агуулсан байж болох ч оруулсан зүйл нь батлагдсан гэж үзэж болно. Нөгөө талаар хиймэл оюун ухаан нь гайхалтай боловч төгс бус мэдлэгтэй хүнтэй ярилцаж байгаатай адил юм - заримдаа тэд алдаа гаргадаг, заримдаа эргэлздэг, заримдаа тэд баримтыг гуйвуулдаг.
Энэ зүйрлэл нь компьютерийн хувьд найдвартай байдлын үндсэн регрессийг илэрхийлдэг. Бид үргэлж хүнээс илүү машинаас илүү нарийвчлалыг хүлээсээр ирсэн. Одоо, хачирхалтай нь, бид хиймэл оюун ухаанаар үүсгэсэн үр дүнг үл мэдэгдэх хувь хүний мэдээлэлд ашиглахтай адил болгоомжтой шалгах шаардлагатай болж байна.
Мөн уншина уу: Гэж юу вэ DeepSeek ба яагаад бүгд энэ тухай ярьж байна вэ?
Математикийн найдвартай байдлыг эрэлхийлж байна
Энэ нь бид хиймэл оюун ухаанаас бүрэн татгалзах ёстой гэсэн үг үү? Үгүй ээ. AI системүүд нь бүтээлч контент үүсгэхээс эхлээд асар том мэдээллийн багцад дүн шинжилгээ хийх хүртэл янз бүрийн салбарт асар их боломжуудтай. Асуудал нь бид эдгээр системүүдтэй ажиллах шинэ арга барилд суралцах ёстой бөгөөд тэдгээрийн үндсэн хязгаарлалтыг хүлээн зөвшөөрдөг.
Одоогоор хиймэл оюун ухааны хий үзэгдэлийг бууруулах эрчимтэй судалгаа хийгдэж байна. Санал болгож буй шийдлүүд нь сургалтын өгөгдлийн чанарыг сайжруулах (өгөгдөл сайтай байх тусам хий үзэгдэл гарах магадлал бага байх), илүү ил тод сургалтын аргуудыг боловсруулах (ойлгомжтой, тайлбарлах боломжтой загварууд нь худал мэдээлэл үүсгэх магадлал бага байдаг), баримт шалгах механизмыг (эрх бүхий эх сурвалжийн эсрэг үүсгэсэн контентыг автоматаар баталгаажуулдаг систем) сайжруулах зэрэг орно.
Мөн уншина уу: Биомимикри: Байгаль нь инженерүүдийг шинийг санаачлахад хэрхэн урамшуулдаг вэ?
Дижитал бодит байдлын шинэ ёс зүй
Хиймэл оюун ухаан дахь өнөөгийн хувьсгал нь зөвхөн шинэ хэрэгсэл, арга зүй төдийгүй дижитал ёс зүйн шинэ тогтолцоог шаарддаг. Бид хүн ба машин хоёрын хоорондын итгэлцэл гэж юу гэсэн үг вэ, хиймэл оюун ухаанаас үүдэлтэй алдааны хариуцлагын хил хязгаар, баримт ба зохиомол хоёрын хоорондын зааг улам бүр бүдгэрч буй энэ ертөнцөд буруу мэдээллээс өөрсдийгөө хэрхэн хамгаалах талаар дахин бодох хэрэгтэй.
нь дагуу Salesforce AI-ийн эрин үеийн өгөгдөлд итгэх итгэл, аюулгүй байдлын эрсдэл, мэдээллийн уялдаа холбоогүй байдал зэрэг нь түүний найдвартай байдалд саад учруулж байна. Тиймээс чухал шийдвэр гаргахдаа хиймэл оюун ухаанд суурилсан өгөгдлийг ашигладаг компаниуд мэдээллийн аюулгүй байдлын заналхийллийг хамгийн чухал зүйл гэж үздэг.
Энэ нь үүсгүүр гэж нэрлэгддэг хиймэл оюун ухааны нөхцөлд онцгой чухал бөгөөд компанийн өгөгдөл нийтийн том хэлний загварт алдагдахаас нэмэлт эрсдэл дагуулдаг.
Мөн уншина уу: AI-ийн хамгийн хачирхалтай хэрэглээний 10 жишээ
Мянган үгийн оронд ...
Би одоогийн хиймэл оюун ухааны хувьсгалд итгэхгүй байна, учир нь би түүний боломжуудыг олж хардаггүй, харин үндсэн хязгаарлалтыг нь ойлгодог учраас. Хэдэн арван жилийн турш бид дижитал соёл иргэншлээ хамгийн эртний механик тооны машинуудаас эхлээд гайхалтай ENIAC-аас эхлээд хаа сайгүй байдаг хүснэгтүүд хүртэл найдвартай тооцоолол дээр суурилан байгуулж ирсэн. Энэхүү математикийн баталгаа нь амьдралын тоо томшгүй олон салбар дахь ахиц дэвшлийн тулгын чулуу байсан юм.
Хиймэл оюун ухааны өнөөгийн давалгаа биднийг магадлалын ертөнцөд хүргэж байгаа бөгөөд 98% итгэлтэй байх нь шинэ хэм хэмжээ юм. Хэдийгээр энэ нь олон хэрэглээнд хангалттай байж болох ч эрүүл мэнд, санхүү, аюулгүй байдал зэрэг чухал салбарт илүү өндөр стандарт шаардагдана.
Тэгвэл бодит сорилт бол бидний технологид итгэх итгэлийн үндэс болсон математикийн баталгааг алдалгүйгээр хиймэл оюун ухааны чадавхийг ашиглах явдал юм. Компьютерууд одоо харилцан ярилцаж, зураг бүтээж, шүлэг бичиж чаддаг ч тэдний хамгийн чухал үүрэг нь өө сэвгүй тооцоолол хэвээр үлдэж, нэгэн цагт бүх өрөөг дүүргэж, лабораторийн хувцас өмссөн эрдэмтдийн баг ажиллуулж байсантай ижил үүрэг гүйцэтгэдэг. Учир нь баримтыг уран зохиолоос ялгах нь улам бүр хэцүү болж байгаа энэ ертөнцөд математикийн баталгаа нь урьд өмнөхөөсөө илүү үнэ цэнэтэй юм.
Мөн уншина уу:
- Ирээдүйн суудлын галт тэрэг ямар байх бол
- Гэрлийн хурдаар сансрын аялал: Энэ нь хэзээ бодит болох вэ?
