Mudell Razzjonali tar-Riżorsi Ta 'Ipproċessar Uman Ta' Struttura Lingwistika Rikursiva Parti 2

Dawn l-aspettattivi jistgħu jitkejlu permezz tal-ħinijiet tal-qari tal-kelliema nattivi meta jiltaqgħu mal-verb finali wara l-kuntest preċedenti, jew billi jipprovdu kelliema nattivi bil-kuntest preċedenti u jitolbuhom biex jimlew is-sentenza.

Ilsien matern huwa l-ewwel lingwa li kulħadd jiġi f'kuntatt magħha u jakkwista. Hija mhux biss għodda ta 'komunikazzjoni, iżda taffettwa wkoll il-kapaċità tal-memorja tagħna. Ilsien omm huwa wieħed mill-aktar elementi importanti fl-iżvilupp konjittiv u perċettiv tal-bniedem. Hija direttament relatata mal-kapaċità tat-tagħlim tal-lingwa tan-nies, il-kapaċità tal-espressjoni, u l-kapaċità tal-ħsieb.

Għal ħafna nies, il-lingwa nattiva hija għodda ta 'memorja qawwija minħabba li l-profiċjenza fil-lingwa nattiva hija relatata mill-qrib mal-kapaċità tal-memorja. Ilsien twelidna jistimula l-memorja tan-nies għax nużawha b’mod naturali biex nikkomunikaw man-nies ta’ madwarna, u f’dan il-proċess, irridu nifhmu u nirrispondu għall-informazzjoni li hemm fil-lingwa. Dawn l-esperjenzi jakkumulaw fl-imħuħ tagħna u jtejbu l-livelli tal-memorja tagħna.

Dan jidher meta t-tfal jibdew jitgħallmu l-lingwa materna tagħhom minħabba li l-kapaċità tagħhom li jassorbu għarfien ġdid tal-lingwa hija illimitata. L-effett tat-tagħlim tal-lingwi fl-adulti mhuwiex ovvju daqs fit-tfal għax il-moħħ diġà għadda minn wisq stadji ta’ żvilupp.

Barra minn hekk, ilsien matern tagħna jikkontribwixxi wkoll għall-memorja emozzjonali tagħna. Bħall-organi interni tagħna, l-imħuħ tagħna jista 'jitprintja memorji fil-fond fina. Ilsien matern tagħna jista’ jistimula l-emozzjonijiet tagħna, jifforma qafas emozzjonali inizjali, u mbagħad jistabbilixxi emozzjonijiet u memorji emblematiċi fil-memorja tagħna.

Fil-qosor, ir-relazzjoni bejn il-lingwa materna u l-memorja hija importanti ħafna. Jekk trid ittejjeb il-memorja tiegħek, tista 'tixtieq titgħallem aktar lingwi indiġeni u tużahom b'mod profiċjenti, li se jtejjeb ħafna l-kapaċità tal-memorja tiegħek. Fl-istess ħin, il-lingwa materna hija wkoll wirt kulturali importanti. Jippermettilna nifhmu u nesprimu aħjar il-karatteristiċi kulturali u l-karattru nazzjonali tagħna. Huwa l-ġid importanti tagħna u mod importanti għalina biex nirtitu l-istorja kulturali tagħna. Wieħed jista 'jara li għandna bżonn intejbu l-memorja, u Cistanche deserticola jista' jtejjeb b'mod sinifikanti l-memorja, minħabba li Cistanche deserticola jista 'wkoll jirregola l-bilanċ ta' newrotrasmettituri, bħal żieda fil-livelli ta 'acetylcholine u fatturi ta' tkabbir. Dawn is-sustanzi huma importanti ħafna għall-memorja u t-tagħlim. Barra minn hekk, Laħam jista 'wkoll itejjeb il-fluss tad-demm u jippromwovi l-kunsinna tal-ossiġnu, li jista' jiżgura li l-moħħ jirċievi biżżejjed nutrijenti u enerġija, u b'hekk itejjeb il-vitalità u r-reżistenza tal-moħħ.

Ikklikkja taf modi biex ittejjeb il-funzjoni tal-moħħ

Aħna nużaw it-tnejn biex nittestjaw it-teorija tagħna. L-ewwel, nuru li implimentazzjoni akbar tal-mudell tagħna tabilħaqq tirriżulta t-tbassir deskritti b'mod intuitiv hawn fuq. Sussegwentement, f'żewġ esperimenti tal-ħin tal-qari, aħna nvarjaw b'mod sistematiku l-probabbiltà a priori tal-verucontext relattiva għal varjanti strutturalment differenti. Insibu li meta l-preċedenti jiffavorixxi varjanti mhux veridika, il-bnedmin jesperjenzaw diffikultà akbar fl-ipproċessar tal-verb finali.

Dan il-kuntrast huwa tbassir tal-firma tal-mudell ta 'unifikazzjoni propost tagħna u ma jsegwix minn mudelli eżistenti jew mill-paradigmi bbażati fuq l-aspettattivi jew il-memorja.

Fl-aħħarnett, fi studju tal-produzzjoni fi tliet lingwi (Ingliż, Ġermaniż u Spanjol), aħna mbagħad nuru mudell analogu fil-produzzjoni, fejn il-bnedmin huma aktar probabbli li jipproduċu n-numru korrett ta 'verbi meta varjanti strutturalment differenti jkollhom probabbiltà a priori aktar baxxa.

Formalizzazzjoni u Implimentazzjoni
Aħna niddeskrivu l-mudell propost, riżorsa razzjonali lossy-contextsorprisal, f'Fig. 2. Il-mudell jikkalkula probabbiltà ta 'żamma (28, 29) għal kull kelma fil-kuntest tal-passat, determinata minn 1) l-identità tal-kelma u 2) kemm-il kliem għandu ġie osservat wara li osservawh.

Ir-rappreżentazzjoni ġenerali tal-memorja ċ imbagħad tikkonsisti mill-kliem disponibbli u simbolu ta' placeholder għal dawk il-kliem li ma nżammux.

Permezz tar-regola ta’ Bayes u l-għarfien ta’ l-istatistika a priori tal-lingwa, ċ tagħti lok għal a posteriorP(c|c) fuq kuntesti possibbli u għalhekk distribuzzjoni ta’ tbassirP(w|c) fuq il-kelma li jmiss. Id-diffikultà tal-ipproċessar fuq kelma hija ddeterminata mill-grad ta 'imprevedibbiltà tagħha minn c, kif imkejjel mill-kwantità teoretika tal-informazzjoni ta' sorpriża,

−log P(w|c)=−logcP(w|c)P(c|c). [1]

Aħna nirrappreżentaw l-istatistika a priori tal-Ingliż bl-użu ta' GPT-2(30), mudell ta' netwerk newrali fuq skala kbira li jipprovdi wieħed mill-mudelli statistiċi eżistenti l-aktar b'saħħithom ta' test bl-Ingliż.

Il-probabbiltajiet ta' żamma huma parametrizzati bl-użu ta' netwerk newrali li jaġixxi fuq rappreżentazzjoni tal-vettur indipendenti mill-kuntest tal-kelma u d-distanza tagħha. Aħna jottimizzaw il-probabbiltajiet ta' żamma biex innaqqsu l-medja tal-mudell sorpriża [1] fuq id-dejta tat-test fuq skala kbira, soġġetta għal limitu massimu fuq in-numru medju ta' kliem tal-kuntest miżmuma.

Waħħalna l-mudell għal valuri interi ta' dan il-limitu minn 0 għal 20.

L-ottimizzazzjoni tuża dejta tat-test mill-Wikipedija Ingliża, mhux relatata mal-istimoli tal-inkorporazzjonijiet taċ-ċentru ta 'interess (ara Materjali u Metodi).

Il-probabbiltajiet ta' żamma ottimizzati juru b'mod prominenti żewġ proprjetajiet ewlenin: Il-kliem huwa aktar probabbli li jiġi ppreservat meta jkunu riċenti, u meta jkollhom frekwenza ta' kliem aktar baxxa (SI Appendiċi, Fig. S2). Iż-żewġ preġudizzji huma dokumentati sew fir-riċerka sperimentali dwar il-memorja lingwistika tal-bniedem (31-33).

Tbassir

Aħna użajna riżorsi-razzjonali lossy-kuntest sorpriża biex joħorġu threepredictions dwar l-ipproċessar ta 'strutturi rikkursivi nested (Fig. 1 B u C). L-ewwel, l-irkupru minn aktar livelli ta 'inkorporazzjoni għandu jkun aktar diffiċli (linji blu vs ħodor fil-Fig. 1C).

Din il-previżjoni sempliċi hija komuni għall-biċċa l-kbira tal-mudelli tal-memorja fil-komprensjoni tas-sentenza, li tmur lura għas-snin sittin (2, 4, 7, 24). Il-mudell tagħna ġeneralment ibassarha minħabba li aktar livelli ta 'inkorporazzjoni huma inqas probabbli a priori u għalhekk varjanti mhux veridiċi b'inqas livelli għandhom tendenza li jkollhom probabbiltà a priori ogħla.

It-tieni, l-irkupru għandu jkun aktar faċli meta indikazzjonijiet semantiċi jsaħħu l-istruttura ta 'dipendenza korretta għall-kuntest ta' inkorporazzjoni preċedenti. Ittestjajna dan it-tbassir billi nimmanipulaw jekk il-verb tal-aħħar għall-aħħar kienx kompatibbli kemm mal-ewwel kif ukoll mat-tieni nomi bħala s-suġġett tiegħu, bħal fil-Fig. 1B, oġġett 1 (rapport ... imdejqa u tabib ... imdejqa huma t-tnejn plawżibbli), jew bit-tieni nom biss, bħal fil-Figura 1B, oġġett 2 (ir-rapport . . . imfejjaq mhux plawżibbli, filwaqt li t-tabib . . . ikkurat huwa plawżibbli).

Meta dan il-verb ikun inkompatibbli mal-ewwel nom bħala s-suġġett tiegħu, ma jiffavorixxi rappreżentazzjonijiet tal-kuntest mhux veridika bħal "ir-rapport tat-tabib fejjaq lill-pazjent..." u għalhekk isaħħaħ il-kuntest veridika.

Għalhekk, il-bidla tal-verb "imdejqa" għal "fejqan" għandha tnaqqas l-isforz tal-ipproċessar fuq il-verb finali.

Ix-xogħol bikri fuq l-inkorporazzjoni taċ-ċentru diġà nnutat li t-tlaqqigħ semantiku bejn in-nomi u l-verbi għamel il-komprensjoni aktar faċli (25, 26, 34), iżda, sa fejn nafu, dan l-effett ma ġiex muri fi żmien il-qari kelma b’kelma. Filwaqt li effett bħal dan jista 'jkun kompatibbli ma' xi teoriji bbażati fuq il-memorja (7, 35), ma jinqalgħux f'mudelli komputazzjoni espliċiti eżistenti (7).

It-tielet, l-irkupru għandu jkun aktar faċli meta n-nomi jipprovdu indikazzjonijiet statistiċi ta 'appoġġ (Fig. 1B, punt 3). In-nomi jvarjaw ħafna fil-probabbiltà a priori li jkunu segwiti minn klawżola "dik"; din il-probabbiltà tvarja minn ≈70% ("fatt") għal ≈0.7% ("rapport").

Aħna nużaw it-terminu "inkorporazzjoni bias" biex jindikaw il-probabbiltà log li nom ikun segwit minn "li." Fil-Fig. 1B, punt 3, it-tibdil tan-nom "rapport" għal "fatt" inaqqas il-probabbiltà tal-varjanti mhux veridika, li għal darb'oħra huwa previst li jnaqqas l-isforz tal-ipproċessar fuq il-verb finali.

Fit-TNEJN u TLIET kundizzjonijiet, it-tielet verb għandu jitbassar b'mod aktar preċiż meta jinkorpora bias ishigher, peress li jżid il-probabbiltà a priori tal-kuntest veru (linji blu u ħodor dixxendenti f'Fig. 1C).

Din it-tbassir ma ssegwix minn mudelli eżistenti iżda hija konsegwenza sempliċi tal-mudell tagħna. Fil-kundizzjoni WIEĦED, nistennew il-mudell oppost (linja ħamra axxendenti f'Fig. 1C), peress li n-nomi li jinkorporaw klawżola bi probabbiltà għolja ħafna huma inqas probabbli li jiġu segwiti immedjatament minn verb.

Il-mudell li jirriżulta ta 'diffikultà huwa ferm differenti minn dak imbassar minn mudelli eżistenti bbażati fuq memorja u aspettattivi (Fig. 1D u SI Appendiċi, sezzjoni S7.1).

Aħna eżemplifythese bl-użu tat-teorija tal-lokalità tad-dipendenza (DLT) (36), li tafferma li d-diffikultà tirriżulta mill-integrazzjoni tad-dipendenzi sintattiċi twal, u t-teorija sorpriża (9, 10), li tafferma li l-isforz tal-ipproċessar huwa proporzjonali għal sorpriża derivata minn rappreżentazzjonijiet tal-kuntest veridika bis-sħiħ.

L-effett tan-numru ta 'livelli ta' inkorporazzjoni, u l-imġieba tal-kundizzjoni ONE, huma previsti minn teoriji eżistenti bbażati fuq il-memorja u bbażati fuq l-aspettattivi, rispettivament.

Madankollu, l-ebda grupp ta 'mudelli preċedenti ma jbassar l-effetti tal-kompatibilità semantika jew l-inkorporazzjoni tal-preġudizzju fit-TNEJN u TLIET kundizzjonijiet. Ara l-Appendiċi SI, sezzjoni S7 għal aktar mudelli ta' qabel.

Esperiment 1: Effett ta 'Cues Statistiċi

Ittestjajna r-riżorsi-razzjonali lossy-kuntest sorpriża billi nqabblu l-mudell sorpriża (Eq. 1) ma 'diffikultà tal-ipproċessar tal-bniedem fuq il-verb finali, kif rifless fil-ħinijiet tal-qari.

Bnejna 32 stimolu tal-forma f'Fig. 1A, kull fi tliet kundizzjonijiet (WIEĦED, TNEJN, u TLIET), u qsamna dawn bi 58 nom differenti li jvarjaw fl-inkorporazzjoni bias (eż., rapport, fatt, ...).

Aħna l-ewwel derivati ​​previżjonijiet għat-teorija sorpriża u DLT għal diffikultà fuq il-verb finali (Fig. 3A); implimentajna t-teorija sorpriża bl-użu tal-istess mudell statistiku użat għall-prijor fil-mudell tagħna (GPT-2). Imbagħad ikkalkulajna l-kuntest razzjonali tar-riżorsi b'mod sorprendenti, billi nvarjaw in-numru medju ta' kliem tal-kuntest miżmuma waqt l-ottimizzazzjoni tal-probabbiltajiet ta' żamma minn 0sa 20.

Madwar il-firxa ta 'dan il-parametru, il-mudell traverses tliet fażijiet distinti (SI Appendiċi, Fig. S4): Meta ħafna (17) kliem huma miżmuma, l-imġieba hija simili ħafna għat-teorija sorpriża.

Meta jinżammu ftit (4) kelmiet, il-mudell sorpriża huwa indistinctlyflat fi TNEJN u TLIET.

Bejn, il-mudell juri t-tbassir kwalitattiv deskritt hawn fuq; aħna nuru riżultati għal rata ta 'retention medja ta' 10 kelmiet f'Fig. 3A (ara SI Appendiċi, Fig. S4 għar-riżultati f'rati oħra ta 'żamma): Mudell sorpriża huwa ogħla fit-THREE kundizzjonijiet milli f'ŻEWĠ, jiżdied bl-inkorporazzjoni biasin il-kundizzjoni WIEĦED, u jonqos bl-inkorporazzjoni bias fil-kondizzjonijiet theTWO u TLIET.

Aħna qabblu dawn it-tbassir mal-ħinijiet tal-qari tal-bniedem, li aħna kejlu bl-użu tal-paradigma tal-labirint (37-39). F'din il-paradigma, il-parteċipanti jaqraw sentenzi kelma b'kelma u jagħżlu bejn il-kelma korretta li jmiss u kelma li tfixkel li hija mqabbla fit-tul u l-frekwenza iżda hija ħażina ħafna fil-kuntest partikolari.

Il-varjabbli dipendenti ta 'interess huwa ż-żmien li tieħu biex tagħmel għażla (ħin ta' reazzjoni). Il-paradigma tal-labirint tippermetti riżoluzzjoni u sensittività temporali ogħla mill-paradigma tradizzjonali tal-qari b'ritmu waħdu, li tbati minn lokalizzazzjoni fqira minħabba effetti ta 'tixrid u minn storbju minħabba parteċipanti inattenti, b'mod partikolari, f'esperimenti bbażati fuq il-web (38, 39).

Jeżistu metodi differenti għall-ħolqien ta' kliem li jfixkel; nużaw il-varjant A-maze li fih id-distractors huma ġġenerati awtomatikament bl-użu ta' mudelli tal-lingwa statistiċi fuq skala kbira (39) (ara Materjali u Metodi għad-dettalji).

Irreklutajna 100 kelliem nattiv bl-Ingliż, u ġabar dejta minn 10 provi kritiċi għal kull parteċipant, imxerrda bi 30 mili (ara Materjali u Metodi għad-dettalji).

Il-parteċipant medjan għamel żball fuq 1.9% tal-kliem madwar kemm mili kif ukoll provi kritiċi. Il-kriterju ta' esklużjoni predeterminat għall-parteċipanti (rispons mhux korrett fuq Ikbar minn jew ugwali għal 20% tal-kliem) affettwa 1.0% tal-parteċipanti.

Eskludejna provi mill-analiżi tal-ħin tal-qari meta r-rispons fuq il-kelma kritika kienet ħażina; dan affettwa 5.2% tad-dejta (primarjament fit-tliet kundizzjonijiet diffiċli). Ara l-Appendiċi SI, sezzjoni S3.6 għal analiżi ta' żbalji u ħinijiet ta' qari kkundizzjonati fuq żbalji.

Aħna nuru l-ħinijiet tal-qari fuq l-aħħar verb fil-Fig. 3A. Aħna analizzajna dawn, wara t-trasformazzjoni tal-log, f'rigressjoni Bayesjana lineari ta 'effetti mħallta, daħħal parteċipanti, oġġetti, u nomi bħala effetti każwali (ara Materjali u Metodi għad-dettalji).

Ir-riżultati juru l-effetti mbassra mill-mudell razzjonali tar-riżorsi. L-ewwel, il-ħinijiet tal-qari kienu ogħla fi TLIET milli fi TNEJN (= 0.18,95% intervall kredibbli [CrI] [0.13, 0}.25], P( < {{ 8}}) < 0.0{{20}}{01,effett f'ħinijiet ta' qari mhux ipproċessati: 217 ms, 95% CrI [144, 297] ms). It-tieni, kien hemm interazzjoni bejn il-preġudizzju ta' inkorporazzjoni u l-preżenza ta' klawżola "dik" (=-0.09, 95% CrI [−0.15, -0.03], P ( > 0) {{25} }.0015).

B'mod konsistenti kemm mat-teorija tal-mudell kif ukoll tas-sorpriża tagħna, l-effett tal-inkorporazzjoni tal-preġudizzju kien pożittiv fil-kundizzjoni ONE (differenza bejn "fatt" u "rapport": 297 ms, 95% CrI [34, 566] ms).

Madankollu, kif previst mill-mudell tagħna, dan l-effett sar negattiv fil-preżenza ta '"dik"-klawżola (differenza bejn "fatt" u "rapport": -166 ms, 95% CrI [-297, -41] ms). Dan l-effett jaqbel mal-previżjonijiet tal-mudell u huwa inkonsistenti mad-DLT jew it-teorija sorpriża.

Tista' tintwera interazzjoni bejn il-fond tal-inkorporazzjoni u l-preġudizzju tal-inkorporazzjoni meta tinġabar id-dejta bejn l-esperimenti (Appendiċi SI, sezzjonijiet S2.1 u S6.6).Ara l-Appendiċi SI, sezzjoni S3 għal aktar analiżi.

Sibna li r-riżorsi-razzjonali lossy-kuntest surpriseal titjieb fuq it-teorija sorpriża u DLT fit-tbassir tal-ħinijiet tal-qari mhux biss fl-inkorporazzjonijiet taċ-ċentru iżda wkoll fil-provi tal-mili (SI Appendiċi, sezzjoni S9).

Aħna eżaminajna wkoll tbassir għal mudell ta 'memorja uniformi fejn kull kelma kuntest hija miżmuma bi probabbiltà ugwali, preżunt fil-ħidma preċedenti fuq telf ta' kuntest sorpriża (22). Dan il-mudell jipprevedi l-effetti tal-preġudizzju tal-inkorporazzjoni iżda mhux l-effett tal-fond.

Aħna komparajna ma 'mudell ibbażat fuq tieqa fejn eżattament l-aħħar K kelmiet huma disponibbli; dan il-mudell ibassar l-effett tal-fond iżda mhux l-effett negattiv tal-inkorporazzjoni tal-preġudizzju. Ara l-Appendiċi SI, sezzjoni S2.2 għad-dettalji.

For more information:1950477648nn@gmail.com