Kuidas võib tehisintellekt kokku kukkuda? Eksperdid hoiatavad selle ohtude ja lahenduste üle
Miks võib genereeriv tehisintellekt iseennast hävitada? Avasta hiljutised uuringud, mis hoiavad tähelepanu tema lagunemisele, ning eksperdid, kes analüüsivad võimalikke lahendusi....Autor: Patricia Alegsa
14-10-2024 14:21
- Generatiivse IA Degradaadi Alarm
- Mudeli Kollapse: Degeneratiivne Fenomen
- Inimese Sekkumise Raskus
- Tuleviku Ebamugavus: Väljakutsed ja Võimalikud Lahendused
Generatiivse IA Degradaadi Alarm
Viimased uuringud on käivitanud alarmid murettekitava nähtuse üle generatiivse tehisintellekti arendamisel: vastuste kvaliteedi degradeerumine.
Eksperdid on toonitanud, et kui neid süsteeme treenitakse sünteetiliste andmetega, st teiste tehisintellektide genereeritud sisuga, võivad nad sattuda halvenemise tsüklisse, mis kulmineerub absurdselt ja mõtetult vastustega.
Küsimus, mis tõuseb, on: kuidas jõutakse sellesse punkti ja milliseid meetmeid saab selle ennetamiseks rakendada?
El "mudeli kokkuvarisemine" viitab protsessile, kus tehisintellekti süsteemid jäävad kinni halva kvaliteediga andmetega treeningtsüklisse, mis toob kaasa mitmekesisuse ja efektiivsuse vähenemise.
Fredi Vivas, RockingData tegevjuht, hoiatab, et ülemäärane koolitamine sünteetiliste andmetega võib luua "kajaefekti", kus AI õpib oma vigadest, vähendades veelgi selle võimet genereerida täpset ja mitmekesist sisu. Nii muutub küsimus, kuidas tagada AI mudelite kvaliteet ja kasulikkus, üha urgentsemaks.
Eksperdid on ühel meelel, et sünteetiliste andmete kasutamine ei ole iseenesest negatiivne, kuid nende haldamine nõuab vastutustundlikku lähenemist. Sellised ettepanekud nagu veemärkide rakendamine genereeritud andmetes võiksid aidata tuvastada ja filtreerida sünteetilist sisu, tagades seeläbi kvaliteedi IA mudelite koolitamisel.
Mudeli Kollapse: Degeneratiivne Fenomen
El "mudeli kokkuvarisemine" viitab protsessile, kus tehisintellekti süsteemid jäävad kinni halva kvaliteediga andmetega treeningtsüklisse, mis toob kaasa mitmekesisuse ja efektiivsuse vähenemise.
Ilia Shumailovi, uuringu kaasautori, sõnul, mis avaldati ajakirjas Nature, tekib see nähtus siis, kui tehisintellekt hakkab toituma oma enda väljunditest, perpetueerides kallutatusi ja vähendades oma kasulikkust. Pikaajaliselt võib see viia selleni, et mudel toodab üha ühtlasemat ja vähem täpset sisu, nagu kaja oma vastustest.
Emily Wenger, Duke'i ülikooli inseneriteaduse professor, illustreerib seda probleemi lihtsa näitega: kui tehisintellekti treenitakse koerte pilte genereerima, kipub see kordama kõige levinumaid tõuge, jättes kõrvale vähem tuntud.
Emily Wenger, Duke'i ülikooli inseneriteaduse professor, illustreerib seda probleemi lihtsa näitega: kui tehisintellekti treenitakse koerte pilte genereerima, kipub see kordama kõige levinumaid tõuge, jättes kõrvale vähem tuntud.
See ei peegelda mitte ainult andmete kvaliteeti, vaid toob ka märkimisväärseid riske vähemuste esindatusele treeningandmekogudes.
Vaata ka: Tehisintellekt muutub üha intelligentsemaks ja inimesed üha lollimaks.
Hoolimata olukorra tõsidusest, ei ole lahendus lihtne. Shumailov märgib, et ei ole selge, kuidas vältida mudeli kokkuvarisemist, kuigi on tõendeid, et reaalseid andmeid sünteetilistega segamine võib mõju leevendada.
Vaata ka: Tehisintellekt muutub üha intelligentsemaks ja inimesed üha lollimaks.
Inimese Sekkumise Raskus
Hoolimata olukorra tõsidusest, ei ole lahendus lihtne. Shumailov märgib, et ei ole selge, kuidas vältida mudeli kokkuvarisemist, kuigi on tõendeid, et reaalseid andmeid sünteetilistega segamine võib mõju leevendada.
Kuid see tähendab ka suurenemist koolituskuludes ning suuremat raskust täielike andmekogude juurde pääsemisel.
Selge lähenemise puudumine inimsekkumiseks seab arendajad dilemma ette: kas inimesed saavad tõeliselt kontrollida generatiivse AI tulevikku?
Fredi Vivas, RockingData tegevjuht, hoiatab, et ülemäärane koolitamine sünteetiliste andmetega võib luua "kajaefekti", kus AI õpib oma vigadest, vähendades veelgi selle võimet genereerida täpset ja mitmekesist sisu. Nii muutub küsimus, kuidas tagada AI mudelite kvaliteet ja kasulikkus, üha urgentsemaks.
Tuleviku Ebamugavus: Väljakutsed ja Võimalikud Lahendused
Eksperdid on ühel meelel, et sünteetiliste andmete kasutamine ei ole iseenesest negatiivne, kuid nende haldamine nõuab vastutustundlikku lähenemist. Sellised ettepanekud nagu veemärkide rakendamine genereeritud andmetes võiksid aidata tuvastada ja filtreerida sünteetilist sisu, tagades seeläbi kvaliteedi IA mudelite koolitamisel.
Kuid nende meetmete tõhusus sõltub koostööst suurte tehnoloogiaettevõtete ja väiksemate mudelite arendajate vahel.
Generatiivse IA tulevik on mängus ning teaduslik kogukond on kellavärgiga võidujooksus, et leida lahendusi enne, kui sünteetilise sisu mull plahvatab.
Generatiivse IA tulevik on mängus ning teaduslik kogukond on kellavärgiga võidujooksus, et leida lahendusi enne, kui sünteetilise sisu mull plahvatab.
Võti on luua tugevad mehhanismid, mis tagavad, et IA mudelid jäävad kasulikeks ja täpseteks, vältides seeläbi kolapsi, mida paljud kardavad.
Tellige tasuta iganädalane horoskoop
Ambur Jäär Kaalud Kaksikud Kalad Kaljukits Lõvi Neitsi Skorpion Sõnn Vähk Veevalaja
-
Uskumatu lugu ajakirjanikust, kes tappis naisi, et jutustada omaenda kuritegudest
Avasta külmavärinat tekitav lugu 'Kicevo koletisest': ajakirjanik, kes muutus mõrvariks, et kirjeldada omaenda kuritegusid. Šokeeriv! -
Kuidas näeksid välja Friends'i tegelased, kui nad oleksid Barbie nukud
Kui oled sari Sõbrad fänn, vaata, kuidas tehisintellekt nad taasloob nagu Barbie-tüüpi nukud. -
Nädalahoroskoop: Avasta energiad 7. kuni 13. oktoobrini 2024
Avasta, kuidas astroloogiline sündmus mõjutab sinu nädalat. Kasuta taeva energiat ja saa oma horoskoobist maksimaalset kasu. Ära jäta seda vahele! -
Ajalooline rekord: Kogu maailma temperatuur, mida pole kunagi registreeritud
Uued Euroopa satelliidiandmed näitavad, et globaalne keskmine temperatuur tõusis 17,15°C-ni, ületades pühapäevase ajaloo rekordi. Hämmastav! -
Teadus avastab seose bipolaarsuse ja toitumise vahel
Vastavalt sellele teaduslikule uuringule aitab teatud dieet bipolaarsushäire juhtimist parandada. Loe rohkem selles artiklis!
Tellige tasuta iganädalane horoskoop
Võtke iganädalaselt oma e -kirjas horoskoop ja meie uued artiklid armastuse, pere, töö, unistuste ja muu uudise kohta. Me ei saada rämpsposti.
Astraal- ja numeroloogiline analüüs
-
Avastage oma tulevik, salajased isiksuseomadused ja kuidas parandada armastuses, äri ja elu üldiselt
-
Unenägude tõlgendaja veebis: tehisintellektiga
Kas soovid teada, mida mingi unenägu, mida nägid, tähendab? Avasta unenägude mõistmise võimu meie edasijõudnud unenägude tõlgendaja abil, mis kasutab tehisintellekti ning annab sulle vastuse mõne sekundiga.
-
Uskumatu! Egiptuses leiti Ramses II mõõk, mis särab pärast 3 000 aastat
Egiptuses avastati Ramses II mõõk, mis särab pärast 3 000 aastat. Imeline leid Niiluse delta vanas kindluses! -
Kliimamuutus mõjutab 70% maailma rahvastikust: Soovitused
Avasta, kuidas kliimamuutused mõjutavad järgmise kahekümne aasta jooksul 70% maailma rahvastikust, väidavad Norra ja Suurbritannia teadlased. Ole kursis! -
Toidud, mis kiirendavad rakulist vananemist naistel
Avasta, millised koostisosad kiirendavad rakkude vananemist 340 naise dieedis ja soovitatavad toidud nooruslikkuse säilitamiseks. Uuri lähemalt siit! -
Skandaalne tüli Bad Bunny kontserdil!
Skandaalne tüli puhkes, kui laulja Bad Bunny esines otseülekandes ühel oma kontserditest Ameerika Ühendriikides. -
Bruce Lindahl: Seeria mõrvar ja tema tumedad saladused paljastatud
Avasta Bruce Lindahli tumedad lood, magnetilise pilguga sarimõrvar, kes suri koos oma viimase ohvriga. Saladused ja kuriteod paljastati aastakümneid hiljem. -
Innovatsioon: pakutakse bioloogiliste proovide hoidmist Kuu peal
Rahvusvahelised eksperdid soovitavad kasutada külmi kuu tingimusi bioloogiliste proovide säilitamiseks. Avastage selle innovaatilise algatuse põhjused ja väljakutsed. -
Leidub 1825. aastast kiri vanas ajakapslis
Bracquemontis avastati 200-aastane ajakapsel arheoloogi sõnumiga. Võluke find gallic ajastust! -
Mida tähendab unistada virsikutest?
Kas olete kunagi mõelnud, mida tähendab unistada virsikutest? Avastage sellest artiklist selle puuvilja sümboolika ja tõlgendus teie unenägude taga. -
Avasta, milline sõber sa oled vastavalt oma horoskoopiamärgile.
Uuri, kuidas sinu tähtkuju näitab, milline sõber sa oled ja millised sõprussuhted sind ootavad - loe siit! -
Kas oled raske inimesega suhelda? Avasta 5 peamist märki psühholoogia järgi
Avasta 5 märki, mis paljastavad, kas oled keeruline inimene. Kas sa tuvastad end? On aeg mõelda, kuidas sa teistega suhtled. Ära jäta seda vahele! -
Ületamine: Väikeste sammude jõud
Kui me teeme iga päev teatud asju või loendeid, siis oleme rahul ja rahul oma eluga. -
Mida tähendab advokaadist unistada?
Avastage meie artiklis Mida tähendab unistada advokaadist? selle unenäo tähendus ja kuidas see võib mõjutada teie elu. Ärge jätke seda vahele! -
Mida tähendab see, et unistatakse vikatitest?
Avastage meie artiklist, mida tähendavad unenäod putukatest ja kuidas neid unenägusid erinevates kontekstides tõlgendada - ärge jätke seda põnevat lugemist vahele!