Kuidas võib tehisintellekt kokku kukkuda? Eksperdid hoiatavad selle ohtude ja lahenduste üle
Miks võib genereeriv tehisintellekt iseennast hävitada? Avasta hiljutised uuringud, mis hoiavad tähelepanu tema lagunemisele, ning eksperdid, kes analüüsivad võimalikke lahendusi....Autor: Patricia Alegsa
14-10-2024 14:21
- Generatiivse IA Degradaadi Alarm
- Mudeli Kollapse: Degeneratiivne Fenomen
- Inimese Sekkumise Raskus
- Tuleviku Ebamugavus: Väljakutsed ja Võimalikud Lahendused
Generatiivse IA Degradaadi Alarm
Viimased uuringud on käivitanud alarmid murettekitava nähtuse üle generatiivse tehisintellekti arendamisel: vastuste kvaliteedi degradeerumine.
Eksperdid on toonitanud, et kui neid süsteeme treenitakse sünteetiliste andmetega, st teiste tehisintellektide genereeritud sisuga, võivad nad sattuda halvenemise tsüklisse, mis kulmineerub absurdselt ja mõtetult vastustega.
Küsimus, mis tõuseb, on: kuidas jõutakse sellesse punkti ja milliseid meetmeid saab selle ennetamiseks rakendada?
El "mudeli kokkuvarisemine" viitab protsessile, kus tehisintellekti süsteemid jäävad kinni halva kvaliteediga andmetega treeningtsüklisse, mis toob kaasa mitmekesisuse ja efektiivsuse vähenemise.
Fredi Vivas, RockingData tegevjuht, hoiatab, et ülemäärane koolitamine sünteetiliste andmetega võib luua "kajaefekti", kus AI õpib oma vigadest, vähendades veelgi selle võimet genereerida täpset ja mitmekesist sisu. Nii muutub küsimus, kuidas tagada AI mudelite kvaliteet ja kasulikkus, üha urgentsemaks.
Eksperdid on ühel meelel, et sünteetiliste andmete kasutamine ei ole iseenesest negatiivne, kuid nende haldamine nõuab vastutustundlikku lähenemist. Sellised ettepanekud nagu veemärkide rakendamine genereeritud andmetes võiksid aidata tuvastada ja filtreerida sünteetilist sisu, tagades seeläbi kvaliteedi IA mudelite koolitamisel.
Mudeli Kollapse: Degeneratiivne Fenomen
El "mudeli kokkuvarisemine" viitab protsessile, kus tehisintellekti süsteemid jäävad kinni halva kvaliteediga andmetega treeningtsüklisse, mis toob kaasa mitmekesisuse ja efektiivsuse vähenemise.
Ilia Shumailovi, uuringu kaasautori, sõnul, mis avaldati ajakirjas Nature, tekib see nähtus siis, kui tehisintellekt hakkab toituma oma enda väljunditest, perpetueerides kallutatusi ja vähendades oma kasulikkust. Pikaajaliselt võib see viia selleni, et mudel toodab üha ühtlasemat ja vähem täpset sisu, nagu kaja oma vastustest.
Emily Wenger, Duke'i ülikooli inseneriteaduse professor, illustreerib seda probleemi lihtsa näitega: kui tehisintellekti treenitakse koerte pilte genereerima, kipub see kordama kõige levinumaid tõuge, jättes kõrvale vähem tuntud.
Emily Wenger, Duke'i ülikooli inseneriteaduse professor, illustreerib seda probleemi lihtsa näitega: kui tehisintellekti treenitakse koerte pilte genereerima, kipub see kordama kõige levinumaid tõuge, jättes kõrvale vähem tuntud.
See ei peegelda mitte ainult andmete kvaliteeti, vaid toob ka märkimisväärseid riske vähemuste esindatusele treeningandmekogudes.
Vaata ka: Tehisintellekt muutub üha intelligentsemaks ja inimesed üha lollimaks.
Hoolimata olukorra tõsidusest, ei ole lahendus lihtne. Shumailov märgib, et ei ole selge, kuidas vältida mudeli kokkuvarisemist, kuigi on tõendeid, et reaalseid andmeid sünteetilistega segamine võib mõju leevendada.
Vaata ka: Tehisintellekt muutub üha intelligentsemaks ja inimesed üha lollimaks.
Inimese Sekkumise Raskus
Hoolimata olukorra tõsidusest, ei ole lahendus lihtne. Shumailov märgib, et ei ole selge, kuidas vältida mudeli kokkuvarisemist, kuigi on tõendeid, et reaalseid andmeid sünteetilistega segamine võib mõju leevendada.
Kuid see tähendab ka suurenemist koolituskuludes ning suuremat raskust täielike andmekogude juurde pääsemisel.
Selge lähenemise puudumine inimsekkumiseks seab arendajad dilemma ette: kas inimesed saavad tõeliselt kontrollida generatiivse AI tulevikku?
Fredi Vivas, RockingData tegevjuht, hoiatab, et ülemäärane koolitamine sünteetiliste andmetega võib luua "kajaefekti", kus AI õpib oma vigadest, vähendades veelgi selle võimet genereerida täpset ja mitmekesist sisu. Nii muutub küsimus, kuidas tagada AI mudelite kvaliteet ja kasulikkus, üha urgentsemaks.
Tuleviku Ebamugavus: Väljakutsed ja Võimalikud Lahendused
Eksperdid on ühel meelel, et sünteetiliste andmete kasutamine ei ole iseenesest negatiivne, kuid nende haldamine nõuab vastutustundlikku lähenemist. Sellised ettepanekud nagu veemärkide rakendamine genereeritud andmetes võiksid aidata tuvastada ja filtreerida sünteetilist sisu, tagades seeläbi kvaliteedi IA mudelite koolitamisel.
Kuid nende meetmete tõhusus sõltub koostööst suurte tehnoloogiaettevõtete ja väiksemate mudelite arendajate vahel.
Generatiivse IA tulevik on mängus ning teaduslik kogukond on kellavärgiga võidujooksus, et leida lahendusi enne, kui sünteetilise sisu mull plahvatab.
Generatiivse IA tulevik on mängus ning teaduslik kogukond on kellavärgiga võidujooksus, et leida lahendusi enne, kui sünteetilise sisu mull plahvatab.
Võti on luua tugevad mehhanismid, mis tagavad, et IA mudelid jäävad kasulikeks ja täpseteks, vältides seeläbi kolapsi, mida paljud kardavad.
Tellige tasuta iganädalane horoskoop
Ambur Jäär Kaalud Kaksikud Kalad Kaljukits Lõvi Neitsi Skorpion Sõnn Vähk Veevalaja
-
Online veterinaar: tasuta kunstliku intelligentsusega
Avasta meie online veterinaarteenus tehisintellektiga, mis pakub kiireid ja täpseid lahendusi sinu lemmiklooma tervise, käitumise ja toitumise jaoks. Saada tasuta konsultatsioon ja saa kohe vastused. -
Kas Eluea Ootus On Seiskumas? Uued Uuringud Paljastavad Tõe
“Eluiga aeglustub: uuringud näitavad, et meditsiinilised edusammud ei tõuka enam pikaealisust nagu varem. Kas oleme saavutanud inimlikud piirid?” -
30 aastat 'El Chacali' langemisest: Usutav operatsioon, mis tabas terroristi
30 aastat pärast 'El Chacali' kinnipidamist, arreteeriti Illich Ramírez Sánchez, kõige otsitum terrorist, Sudaanis ja mõisteti Prantsusmaal eluaegsetesse vangistusse. Avasta, kuidas operatsioon kulges. -
COVID-19 vaktsiinid kaitsevad südant, näitavad viimased uuringud
Kolme Briti ülikooli uuring paljastab Pfizer/BioNTech ja AstraZeneca vaktsiinide mõju täiskasvanutele. Avastage tulemused! -
Ekstreemsed nähtused: tule tornaadod ja kliimamuutus
Äärmuslikud nähtused, mis esinevad üha sagedamini, intensiivistavad tulekahjusid ja mõjutavad kliimat nii kohaliku kui ka globaalse tasandi tasandil. Tutvu nende mõjuga!
Tellige tasuta iganädalane horoskoop
Võtke iganädalaselt oma e -kirjas horoskoop ja meie uued artiklid armastuse, pere, töö, unistuste ja muu uudise kohta. Me ei saada rämpsposti.
Astraal- ja numeroloogiline analüüs
-
Avastage oma tulevik, salajased isiksuseomadused ja kuidas parandada armastuses, äri ja elu üldiselt
-
Unenägude tõlgendaja veebis: tehisintellektiga
Kas soovid teada, mida mingi unenägu, mida nägid, tähendab? Avasta unenägude mõistmise võimu meie edasijõudnud unenägude tõlgendaja abil, mis kasutab tehisintellekti ning annab sulle vastuse mõne sekundiga.
-
Ühe täieliku inuiitrahva kadumine Kanadas: tõde, mida keegi ei räägi
Avasta põnev lugu Inuiti rahva müstilisest kadumisest Nunavutis, Kanadas, 90 aastat tagasi. Kas tegemist oli massilise rändega, tulnukate ärakandmisega või lihtsalt linnalegendi? Lugu täis müsteeriume, uurimusi ja teooriaid, mis hoiavad sinu uudishimu ärkvel. -
Eemalda kolesterool selle kuuma infusiooniga, teaduse kohaselt
Uuringud on näidanud, et roheline tee võib vähendada LDL-kolesterooli taset. -
Kviin: puuvili, mida tarbitakse vähe, kuid see on väga toitainerikas
Rikas tanniinide ja C-vitamiini poolest, tugevdab see valik sinu immuunsüsteemi ja kaitseb nahka, pakkudes mitmeid eeliseid sinu tervisele. -
Mõistetakse isa, kes sundis oma poega jooksma kuni surmani
Christopher J. Gregor mõisteti New Jerseys süüdi Corey vastu tehtud julmates väärkohtlemistes, keda ta alandas tema kaalu pärast. Karistus paljastab juhtumi julmuse. -
Puhkamine oma koeraga: emotsionaalsed eelised ja hügieenilised väljakutsed
Puudutamine oma lemmikloomaga voodis tugevdab emotsionaalset sidet ja pakub turvatunnet, hoolimata mõnedest hügieenilistest väljakutsetest. Avasta selle eelised! -
COVID-19: Juhtude suurenemine ja püsivad sümptomid, mis muretsevad WHO-d
COVID-19 jääb endiselt ohuks: WHO hoiatab juhtumite arvu suurenemise ja püsivate sümptomite üle, mis mõjutavad miljoneid. Uuri lähemalt siit! -
Uskumatu! Noor naine, kelle mälu lähtestub iga 2 tunni järel
Avasta Riley Horneri, Illinoisi õendustudengi, põnev lugu, kelle mälu taastub iga kahe tunni järel ja kes elab ajasilmas. -
Mida tähendab unistada pliidi kasutamisest?
Avastage meie viimasest artiklist, mida tähendab pliidist unistamine. Analüüsime seda unenägu ja anname teile nõuandeid, kuidas selle sõnumit oma igapäevaelus ära kasutada. -
Mida tähendab raamatutest unistada?
Avastage unenägude põnev maailm ja nende tõlgendamine selles artiklis Mis tähendab raamatutest unistada? Lugege, kuidas raamatud võivad paljastada teie minevikku ja tulevikku. -
Mida tähendab unistada koletiste sünnist?
Avasta unenägude salapärane tähendus koletiste sündimise taga - loe seda artiklit ja saa teada, mida su alateadvus sulle öelda tahab! -
Kuidas mõjutab täiskuu Kaljukitse märki sodiaagis
Täna toon teieni juhendi selle kohta, kuidas täiskuu mõjutab Kaljukitku meie tähemärgi järgi. -
Mida tähendab unistada mööblist?
Avastage põnev unenägude tõlgendamine mööbliga ja kuidas need esemed võivad avaldada saladusi teie mineviku ja tuleviku kohta - lugege kohe! -
Mikroplastikud ajus, avastus, mis häirib teadlasi
„Mikroplastikud leitud ajus: uuring Ameerika Ühendriikides paljastab nende kohaloleku selles elutähtsas organites, tekitades muret teadusühingus.“