Neuroimage. 2007 sausio 1 d.;34(1):455-61. Epub 2006 spalio 17 d.
Spiceris J, Galvanas A, Kiškis TA, Vosas H, Gloveris G, Casey B.
Šaltinis
Sacklerio vystymosi psichobiologijos institutas, Kornelio universiteto Weill Cornell medicinos koledžas, 1300 York Avenue, Box 140, Niujorkas, NY 10021, JAV.
Abstraktus
Šiame tyrime buvo tiriama, ar ventraliniai frontostriataliniai regionai skirtingai koduoja laukiamus ir netikėtus atlygio rezultatus. Mes parametriškai manipuliavome atlygio tikimybe ir ištyrėme nervinį atsaką į atlygį ir neatlygį už kiekvieną tikimybę ventraliniame striatum ir orbitofrontalinėje žievėje (OFC). Vėlyvųjų eksperimento bandymų metu tiriamieji parodė lėtesnį elgsenos atsaką į būseną su mažiausia atlygio tikimybe, palyginti su būkle, kuriai atlygio tikimybė buvo didžiausia. Neuroniniu lygmeniu ir nucleus accumbens (NAcc), ir OFC parodė didesnį atlygio suaktyvėjimą, palyginti su neatlygintinais bandymais, tačiau atrodė, kad accumbens buvo jautriausi laukiamų atlygio rezultatų pažeidimams. Šie duomenys rodo skirtingus frontostriatinės grandinės vaidmenis numatant atlygį ir reaguojant į lūkesčių pažeidimus.
Įvadas
Tikslių prognozių formavimas ir lūkesčių dėl būsimų naudingų įvykių pažeidimų aptikimas yra esminė į tikslą nukreipto elgesio dalis. Nežmoginių primatų ir žmogaus vaizdavimo tyrimai rodo, kad dopamino turtingi frontostriataliniai regionai dalyvauja formuojant prognozes apie būsimus atlygio rezultatus ir atitinkamai optimizuojant elgesį. Su atlygiu susijusios numatymo klaidos neuroniniai mechanizmai – tikrojo ir laukiamo atlygio neatitikimo vaizdas (Schultz ir kt., 1997 m) – buvo tiriami su nežmoginiais primatais, atsižvelgiant į tikėtiną ir netikėtą atlygį ir (arba) atlygio praleidimą (Hollerman ir kt., 1998 m, Leonas ir Shadlenas, 1999 m; Tremblay ir Schultz, 1999). Dabartiniame tyrime buvo naudojama paprasta erdvinio vėlavimo užduotys, panašios į tą, kuri anksčiau buvo naudota su nežmoginiais primatais (Fiorillo ir kt., 2003 m), kuris manipuliavo atlygio rezultato tikimybe, kad ištirtų nervinius atsakus į laukiamus ir netikėtus atlygius.
Suvienodinti įrodymai rodo, kad dopamino sistema yra labai svarbi prognozavimui ir atlygio apdorojimui (Senas ir Milneris, 1954; Montague ir kt., 2004 m, Schultz, 2002 peržiūrai). Nežmoginių primatų tyrimai parodė, kad dopamino neuronai reaguoja į netikėtą pirminį atlygį ir galiausiai į dirgiklius, kurie numato tuos atlygius.Mirencowiczius ir Schultzas, 1994 m, Tobleris ir kt., 2005 m). Dopamino neuronai beždžionės ventralinėje tegmentinėje srityje (VTA) suaktyvės reaguodami į pirminį atlygį, kuris yra nenuspėjamas (arba prognozuojamas su maža tikimybe), nei į atlygį, kuris yra visiškai nuspėjamas (Fiorillo ir kt., 2003 m;Tobleris ir kt., 2005 m). Ir atvirkščiai, tų pačių neuronų aktyvumas yra slopinamas, kai laukiamas atlygis nesuteikiamas, palyginti su numatomu atlygio praleidimu (Fiorillo ir kt., 2003 m; Tobleris ir kt., 2005 m). Taigi, dopamino neuronai koduoja numatymo klaidą, parodydami neatitikimą tarp tikrojo ir numatomo rezultato (Schultz ir kt., 1997 m; Tobleris ir kt., 2005 m), kad netikėtai pateikus atlygį padidėtų aktyvumas, o netikėtai praleidus atlygį sumažėtų aktyvumas.
Dopamino deginimo pokyčiai, reaguojant į atlygio rezultatų pokyčius, yra lygiagrečiai su elgesio pokyčiais. Nežmoginių primatų tyrimais nustatyta, kad beždžionė padidins numatomą laižymąsi priklausomai nuo tikimybės, su kuria sąlyginis dirgiklis susiejamas su vėlesniu besąlyginiu dirgikliu (sulčių tiekimu). Iš esmės dirgikliai, atspindintys didelę vėlesnio sulčių tiekimo tikimybę, sukelia labiau nuspėjamą laižymą (Fiorillo ir kt., 2003).
Egzistuoja abipusiai anatominiai ryšiai tarp regionų, susijusių su į tikslą nukreiptu elgesiu (pvz., prefrontalinė žievė) ir tų, kurie siejami su automatiškesniu apetito elgesiu (pvz., ventralinis striatumas), kur galima apskaičiuoti prognozes.Shultz ir kt., 1997 m; Haber et al., 2003). Šios sritys yra stipriai inervuotos dopamino per projekcijas iš vidurinių smegenų dopamino neuronų ir šios jungtys gali sudaryti funkcinę neuroanatominę grandinę, kuri palaiko elgsenos optimizavimą ir skatina veiksmus, kurie duoda didžiausią naudą.
Neseniai žmogaus funkcinio magnetinio rezonanso tomografijos (fMRI) tyrimai parodė, kad numatymo klaidos vaizdavimas yra susijęs su dviem šios grandinės sritimis – branduolio accumbens ir orbitofrontal cortex. Pavyzdžiui, buvo įrodyta, kad nenuspėjamos sulčių ir vandens tiekimo sekos padidina NAcc aktyvumą, palyginti su nuspėjamu tiekimu.Berns ir kt., 2001 m). Numatymo klaida, pagrįsta laikinu (McClure ir kt., 2003 m) ir stimulas (O'Doherty ir kt., 2003 m O'Doherty ir kt., 2004 m) pažeidimai suaktyvina ir ventralinį striatumą.
OFC vaidmuo prognozuojant atlygį buvo ne toks aiškus. Nors kai kurie tyrimai pranešė apie OFC jautrumą numatymo paklaidos sąlygomis (Berns ir kt., 2001; O'Doherty ir kt., 2003; Ramnini ir kt., 2004; Dreher ir kt., 2005) kiti neturi (McClure ir kt., 2003; O'Doherty ir kt., 2004; Delgado ir kt., 2005). Tyrimai, kuriuose mažiau dėmesio skiriama prognozavimo klaidoms, rodo didesnį OFC aktyvavimą ir teigiamą, palyginti su nepalankiais rezultatais.O'Doherty ir kt., 2001 m; Elliott ir kt., 2003 m; Galvan ir kt., 2005 m) atlygio vertės tyrimuose (Gottfried ir kt., 2003 m), ir valentingumas (Cox ir kt., 2005 m; O'Doherty, 2000 O'Doherty, 2003 O'Doherty, 2004). Neseniai Kringelbachas ir Rollsas (2004 m.) integravo neurovaizdinę ir neuropsichologinę literatūrą, kad atsižvelgtų į įvairias orbitofrontalinės žievės funkcijas. Jie rodo medialinį ir šoninį skirtumą bei priekinį ir užpakalinį skirtumą. Medialinė ir šoninė orbitofrontalinė žievė atitinkamai stebi atlygio vertę ir baustojų įvertinimą (pvz. O'Doherty ir kt., 2001 m ; Rolls ir kt., 2003 m). Manoma, kad priekinė orbitofrontalinė žievė yra labiau susijusi su abstrakčių stiprintuvų vaizdavimu (O'Doherty ir kt., 2001 m) prieš paprastesnius, susijusius su skoniu (pvz De Araujo ir kt., 2003 m) ir skausmą (pvz Craigas ir kt., 2000 m).
Šie ventraliniai frontostrialiniai regionai neseniai (Knutsonas ir kt., 2005 m) buvo siejamas su numatomos vertės (tikėtinos tikimybės ir rezultato dydžio sandauga) pateikimu atlygio rezultato numatymas. Atsižvelgiant į elegantišką, bet sudėtingą dizainą, kuriame buvo 18 ženklų, atspindinčių daugybę dydžio, tikimybės ir (arba) valentingumo derinių, statistinės galios trūkumas neleido autoriams ištirti smegenų aktyvacijos, susijusios su paskata. rezultatai. Šiame tyrime naudojome tris skirtingus ženklus, kurių kiekvienas buvo susijęs su 33%, 66% arba 100% atlygiu už teisingus bandymus. Šiame tyrime pagrindinis dėmesys buvo skiriamas atlygio rezultatas o ne atlygio numatymas, siekiant ištirti nervinio lygmens jautrumą atlygio lūkesčių pažeidimams, o ne atlygio numatymui prieš rezultatą. Ši analizė yra labai svarbi norint suprasti atlygio nuspėjamumą dėl dopamino deginimo pokyčių, atsirandančių dėl atlygio, kai pažeidžiami numatyti lūkesčiai (Fiorillo ir kt., 2003 m) a priori Prognozės apie susikaupimą ir OFC atsaką į laukiamą ir netikėtą piniginį atlygį buvo pagrįstos ankstesniu vaizdavimo darbu, kuris įtraukė šiuos regionus į atlygio apdorojimą (Knutsonas ir kt., 2001 m; 2005; O'Doherty ir kt., 2001 m; Galvan ir kt., 2005 m). Mes panaudojome paprastą erdvinį uždelstą atitiktį, kad paimtume paradigmą, panašią į naudojamą Fiorillo ir kt. (2003) nežmoginių primatų dopamino neuronų elektrofiziologiniuose tyrimuose. Iškėlėme hipotezę, kad aktyvumas ventraliniame striatum, ypač NAcc, padidės, kai bus suteiktas netikėtas atlygis, ir sumažės, kai laukiamas atlygis nebus suteiktas. Tikimasi, kad elgesys atitiks šiuos pokyčius su greitesniu vidutiniu reakcijos laiku į užuominas, dažniausiai numatančias atlygį, bet lėtesnės reakcijos į užuominas, numatančias atlygį rečiausiai. Be to, iškėlėme hipotezę, kad OFC būtų jautrus atlygio rezultatui (atlygiui ar ne), tačiau accumbens būtų jautriausias atlygio prognozių pokyčiams. Šios hipotezės buvo pagrįstos ankstesnių vaizdo tyrimų ataskaitomis (Galvanas ir kt., 2005 m, spaudoje) ir nežmoginių primatų darbas, rodantis didesnį striatų įsitraukimą į atlygio tikimybės parametrus, palyginti su OFC veikla, kuriai suteikiamas atlygis (Schultz ir kt., 2000 m) ir fiksuota, o ne kintama atlygio suma, atsižvelgiant į tikimybės sąlygas.
Metodai
Dalyviai
Į fMRI eksperimentą buvo įtraukta 7 dešiniarankių sveikų suaugusiųjų (19 moterys), kurių amžius 27–24 metai (vidutinis amžius XNUMX metai). Tiriamieji neturėjo neurologinių ar psichikos ligų istorijos ir visi tiriamieji prieš dalyvaudami buvo sutikti su Institucinės peržiūros tarybos patvirtintu tyrimu.
Eksperimentinė užduotis
Dalyviai buvo išbandyti naudojant modifikuotą uždelsto atsakymo dviejų pasirinkimų užduoties versiją, aprašytą anksčiau (Galvan ir kt., 2005 m) su įvykiu susijusiame fMRI tyrime (1 pav). Šioje užduotyje trys užuominos buvo susietos su atskira tikimybe (33%, 66% ir 100%) gauti fiksuotą atlygio sumą. Tiriamiesiems buvo liepta paspausti rodomąjį arba vidurinįjį pirštą, kad nurodytų pusę, kurioje buvo rodomas signalas, kai jie buvo raginami, ir reaguoti kuo greičiau, nedarant klaidų. Vienas iš trijų piratinių animacinių filmų vaizdų buvo pateiktas atsitiktine tvarka kairėje arba dešinėje centre esančios fiksacijos pusėje 1000 ms (žr. 1 pav). Po 2000 ms vėlavimo tiriamiesiems buvo pateiktas atsakymo raginimas su dviem lobių skryniomis abiejose fiksacijos pusėse (2000 ms) ir buvo nurodyta paspausti mygtuką dešiniuoju rodomuoju pirštu, jei piratas buvo kairėje fiksavimo pusėje arba jų dešinysis vidurinis pirštas, jei piratas buvo dešinėje fiksacijos pusėje. Po dar 2000 msek vėlavimo ekrano centre buvo pateiktas atsiliepimas apie atlygį (animacinių filmų monetos) arba tuščia lobių skrynia (1000 ms), atsižvelgiant į to bandymo tipo atlygio tikimybę. Prieš pradedant kitą bandymą, buvo 12 sekundžių tarpinis intervalas (ITI).
Buvo trys atlygio tikimybės sąlygos: 33%, 66% ir 100% atlygio tikimybė. Esant 33 % būklei, tiriamieji buvo apdovanoti 33 % bandymų, o kituose 66 % tokios būklės bandymų nebuvo gautas atlygis (tuščia lobių skrynia). Esant 66 % būsenai, tiriamieji buvo apdovanoti 66 % bandymų, o už kitus 33 % bandymų atlygis nebuvo gautas. Esant 100% būsenai, tiriamieji buvo apdovanoti už visus teisingus bandymus.
Tiriamiesiems buvo garantuota 50 USD už dalyvavimą tyrime ir jiems buvo pasakyta, kad jie gali uždirbti iki 25 USD daugiau, priklausomai nuo užduoties atlikimo (indeksuotų pagal reakcijos laiką ir tikslumą). Stimulai buvo pateikti su integruota funkcine vaizdo gavimo sistema (IFIS) (PST, Pitsburgas), naudojant LCD vaizdo ekraną MR skaitytuvo angoje ir šviesolaidinio atsako surinkimo įrenginį.
Eksperimentą sudarė penki 18 bandymų paleidimai (6 kiekvienas iš 33%, 66% ir 100% atlygio bandymų tipų), kurie truko 6 minutes ir 8 sekundes. Kiekviename važiavime buvo 6 kiekvienos atlygio tikimybės bandymai, pateikti atsitiktine tvarka. Kiekvieno bėgimo pabaigoje tiriamieji buvo atnaujinami, kiek pinigų jie uždirbo per tą bėgimą. Prieš pradedant eksperimentą, tiriamieji gavo išsamias instrukcijas, apimančias supažindinimą su naudojamais dirgikliais ir atliko praktinį važiavimą, kad užtikrintų užduoties supratimą. Jiems buvo pasakyta, kad egzistuoja ryšys tarp užuominų ir piniginių rezultatų, tačiau tikslus tų santykių pobūdis nebuvo atskleistas.
Vaizdo įsigijimas
Vaizdas buvo atliktas naudojant 3T General Electric MRI skaitytuvą, naudojant kvadratinę galvos ritę. Funkciniai nuskaitymai buvo gauti naudojant spiralinę įėjimo ir išėjimo seką (Glover ir Thomason, 2004). Parametrai apėmė TR=2000, TE=30, 64 x 64 matricą, 29 5 mm vainikinius pjūvius, 3.125 x 3.125 mm skiriamąją gebą plokštumoje, apvertimą 90°) 184 pakartojimams, įskaitant keturis atmestus įrašus kiekvienas bėgimas. Anatominiai T1 svertiniai skenavimai plokštumoje buvo renkami (TR = 500, TE = min, 256 X 256, FOV = 200 mm, 5 mm pjūvio storis) tose pačiose vietose, kaip ir funkciniai vaizdai, be 3-D duomenų rinkinio. didelės raiškos SPGR vaizdų (TR = 25, TE = 5, 1.5 mm pjūvio storis, 124 pjūviai).
Vaizdo analizė
„Brainvoyager QX“ („Brain Innovations“, Mastrichtas, Nyderlandai) programinės įrangos paketas buvo naudojamas atsitiktinei vaizdo duomenų efektų analizei atlikti. Prieš analizę buvo atliktos šios neapdorotų vaizdų išankstinio apdorojimo procedūros: 3D judesio korekcija, skirta aptikti ir koreguoti nedidelius galvos judesius, erdviškai sulygiuojant visus tūrius su pirmuoju tūriu, naudojant standžią kūno transformaciją, pjūvio nuskaitymo laiko korekcija (naudojant interpoliaciją), linijinių tendencijų pašalinimas, aukšto dažnio laikinasis filtravimas, siekiant pašalinti netiesinius 3 ar mažiau ciklų poslinkius per laiko eigą, ir erdvinių duomenų išlyginimas naudojant Gauso branduolį su 4 mm FWHM. Apskaičiuoti į šią analizę įtrauktų subjektų sukimosi ir vertimo judesiai niekada neviršijo 2 mm.
Funkciniai duomenys buvo bendrai registruojami į anatominį tūrį, suderinant atitinkamus taškus ir rankiniu būdu reguliuojant, kad vizualiai apžiūrint būtų optimaliai tinkami, ir tada jie buvo transformuoti į Talairach erdvę. Talairacho transformacijos metu funkciniai vokseliai buvo interpoliuoti iki 1 mm skiriamosios gebos3 suderinimo tikslais, tačiau statistinės slenksčiai buvo pagrįsti pradiniu gavimo vokselio dydžiu. Branduolys ir orbitinė priekinė žievė buvo apibrėžti viso smegenų vokselių GLM, o atlygis yra pagrindinis prognozuotojas (žr. toliau), o tada lokalizuotas Talairacho koordinatėmis kartu su Duvernoy smegenų atlasu (Talairach & Tournoux, 1988 m; Duvernoy, 1991).
Statistinė vaizdo duomenų analizė buvo atlikta visoms smegenims naudojant bendrąjį tiesinį modelį (GLM), kurį sudaro 60 (5 bandymai x 12 tiriamųjų) z-normalizuotų funkcinių paleidimų. Pagrindinis pranašumas buvo atlygis (atlygio ir neatlygio bandymai) pagal visas atlygio tikimybes, kai bus gautas atlygis. Prognozatorius buvo gautas susumavus idealų „boxcar“ atsaką (darant prielaidą, kad užduoties pateikimo apimtis yra 1, o likusių laiko taškų tūris yra 0) su tiesiniu hemodinaminio atsako modeliu (Boynton ir kt., 1996 m) ir naudojamas kuriant kiekvieno eksperimento laiko eigos projektavimo matricą. Buvo įtraukti tik teisingi bandymai, o klaidų bandymams buvo sukurti atskiri prognozės. Po to buvo atliktos post hoc kontrasto analizės dominančiose srityse, remiantis prognozuojamųjų beta svorių t-testais. Monte Karlo modeliavimas buvo vykdomas naudojant AlphaSim programą AFNI (Cox, 1996) nustatyti tinkamas ribas, kad būtų pasiektas pakoreguotas alfa lygis p<0.05, remiantis atitinkamai maždaug 25,400 3 mm450 ir 3 mm20 orbitinės priekinės žievės ir branduolio accumbens paieškos tūriais. Procentiniai MR signalo pokyčiai, palyginti su pradine linija (intervalas prieš pat XNUMX sek. bandymą) branduolyje ir orbitinėje priekinėje žievėje buvo apskaičiuoti naudojant su įvykiu susijusį vidurkį, palyginti su reikšmingai aktyviais vokseliais, gautais atlikus kontrasto analizę.
Visas smegenų GLM buvo pagrįstas 50 atlygio tyrimų vienam subjektui (n = 12), iš viso 600 bandymų ir 30 neatlygintinų bandymų vienam subjektui (n = 12), iš viso 360 neatlygintinų bandymų per visą eksperimentą. Vėlesni atlygio tikimybės sąlygų kontrastai sudarė skirtingą atlygio skaičių ir jokių atlygio bandymų. Taikant 100 % atlygio tikimybės sąlygą, buvo atlikti 6 atlygio bandymai (5) vienam tiriamajam (12), iš viso 360 bandymų su atlyginimu ir nebuvo jokių neatlygintinų bandymų. Taikant 66 % atlygio tikimybės sąlygą, buvo atlikti 4 atlygio bandymai per bėgimą (5) vienam tiriamajam (12), iš viso 240 bandymų su atlygio ir 120 neatlygintinų bandymų. Taikant 33 % atlygio tikimybės sąlygą, buvo atlikti 2 atlygio bandymai (5) vienam tiriamajam (12), iš viso 120 bandymų su atlygio ir 240 bandymų, kurie nebuvo atlyginami.
Rezultatai
Elgesio duomenys
Atlygio tikimybės ir laiko įtaka užduočiai buvo patikrinta naudojant 3 (33%, 66%, 100%) x 5 (1–5) kartotinių matavimų dispersijos analizę (ANOVA) priklausomiems vidutinio reakcijos laiko (RT) kintamiesiems. ) ir vidutinis tikslumas.
Atlygio tikimybės (F[2,22]=.12, p<.85) užduotyje laiko (F[4,44]=2.02, p<.14) ar atlygio tikimybės X laiko pagrindinių efektų ar sąveikų nebuvo. užduotyje (F[8, 88]=1.02, p<.41) vidutiniam tikslumui. To buvo galima tikėtis, nes visų eksperimento tikimybių dalyvių tikslumas pasiekė beveik lubų lygius (33 % sąlyga = 97.2 %; 66 % sąlyga = 97.5 %; 100 % sąlyga = 97.7 %).
Buvo reikšminga sąveika tarp atlygio tikimybės ir užduoties atlikimo laiko (F[8,88] = 3.5, p < 01) dėl vidutinės RT, tačiau nebuvo pagrindinio laiko poveikio užduočiai (F[4,44] = 611). , p < 0.59) arba atlygio tikimybė (F[2,22]= 2.84, p < 0.08). Post-hoc t reikšmingos sąveikos testai parodė, kad buvo reikšmingas skirtumas tarp 33 % ir 100 % atlygio tikimybės sąlygų vėlyvųjų eksperimento bandymų metu (5 paleidimas) (t(11)=3.712, p<003), su greitesniu vidutiniu RT 100 % atlygio tikimybės sąlygai (vidurkis = 498.30, sd = 206.23), palyginti su 33 % sąlyga (vidurkis = 583.74, sd = 270.23).
Vidutinio reakcijos laiko skirtumas tarp 100 % ir 33 % sąlygų padidėjo du kartus nuo ankstyvųjų iki vėlyvųjų bandymų (žr. 2a pav). Siekdami dar labiau parodyti mokymąsi, eksperimento pabaigoje pristatėme atvirkštinį atlygio tikimybę 33 % ir 100 % sąlygomis. 2 (tikimybė) X 2 (atvirkštinis ir negrįžtamas) ANOVA vėlyviems tyrimams parodė reikšmingą sąveiką (F (1,11) = 18.97, p = 0.001), sumažėjus RT iki būklės, kuri buvo 33 proc. tikimybė, kad nebus apsisukta (vidurkis = 583.74, sd = 270.24) ir 100 % atbulinės eigos (vidurkis = 519.89, sd = 180.46) (2b pav).
Vaizdavimo rezultatai
Teisingų bandymų GLM, naudojant atlygio tikimybę kaip pirminį prognozuotoją, buvo modeliuojamas tuo momentu, kai tiriamasis gavo grįžtamąjį ryšį apie atlygį ar ne (ty rezultatą). Ši analizė nustatė NAcc (x=9, y=6, z=−1 ir x=−9, y=9, z=−1) ir OFC (x=28, y=39, z =−) sritis. 6) (žr 3a,b pav). Post-hoc t-testai tarp apdovanojamų ir neapdovanojamų tyrimų beta svorių parodė didesnį aktyvumą abiejuose šiuose regionuose, kad būtų atlyginta (NAcc: t(11)=3.48, p<0.01; OFC x=28, y=39, z =–6, t(11)=3.30, p<0.02)1.

Buvo du galimi rezultatai (atlygis arba atlygio nebuvimas) dviem su pertrūkiais atlygio grafikais (33% ir 66% tikimybė) ir tik vienas tęstinio atlygio grafiko rezultatas (100% atlygio tikimybė), kuris buvo naudojamas kaip palyginimo sąlyga. Nors pirmiau aprašytame OFC buvo pagrindinis atlygio poveikis (atlygio ir atlygio nebuvimo bandymai), dabartiniame tyrime OFC aktyvumas nesiskyrė kaip atlygio tikimybės funkcija [F(2,10) = 0.84, p = 0.46) . Priešingai, NAcc parodė ryškius aktyvumo ir rezultato pokyčius, kaip atlygio tikimybės manipuliavimo funkciją [F(2,10)=9.32, p<0.005]. Tiksliau, NAcc aktyvumas padidėjo iki atlygio rezultatų, kai atlygis buvo netikėtas (33 % atlygio tikimybės sąlyga), palyginti su tikėtasi (100 % pradinė būklė) [t(11)=2.54, p<03 žr. 4a pav]. Antra, NAcc aktyvumas sumažėjo iki jokio atlygio, kai atlygio buvo tikimasi ir jis nebuvo gautas (66 % atlygio tikimybės sąlyga), palyginti su atlygiu, kurio nebuvo tikimasi ar gauta (33 % atlygio tikimybės sąlyga; t(59) = 2.08, p. <.04; 4b pav). Atkreipkite dėmesį, kad nebuvo reikšmingų aktyvinimo skirtumų tarp 33 % ir 66 % atlygio tikimybės sąlygų [t(11) = 510, p = 62] arba tarp 66 % ir 100 % atlyginimo tikimybės sąlygų [t(11) = 1.20, p=.26] atlyginamuose rezultatuose. MR signalas kaip atlygio rezultato ir tikimybės funkcija parodyta 4 pav.
Diskusija
Šiame tyrime buvo ištirtas laukiamų atlygio rezultatų pažeidimų poveikis elgesiui ir nervų veiklai stuburo srityje ir orbitinėje priekinėje žievėje (OFC), kurios anksčiau buvo susijusios su atlygio rezultatų numatymu.McClure ir kt., 2004 m; Knutsonas ir kt., 2005 m). Mes parodėme, kad ir nucleus accumbens, ir OFC buvo įdarbinti atlyginamų bandymų metu, palyginti su neatlygintinais, tačiau tik nucleus accumbens parodė jautrumą numatomo atlygio rezultato pažeidimams šiame tyrime. Ankstesniame darbe buvo parodytas didesnis accumbens jautrumas atlygio vertei (pvz., dydžiui), palyginti su OFC (Galvanas ir kt., 2005 m), ir kartu šios išvados rodo, kad šis regionas gali būti įtrauktas į atlygio dydžio ir tikimybės skaičiavimą. OFC jautrumo trūkumas šioms manipuliacijoms gali atspindėti absoliutesnį atlygio vaizdą arba rezultato dviprasmiškumą (Hsu ir kt., 2005). Arba, kadangi MR signalas šiame regione buvo įvairesnis, dabartiniame tyrime šis poveikis galėjo susilpnėti.
Atliekant elektrofiziologinius tyrimus su gyvūnais, buvo įrodyta, kad dopamino neuronai vidurinėse smegenyse (kurie išsikiša į nucleus accumbens) mažai reaguoja arba visai nereaguoja į numatytus atlygio rezultatus (tikimybė = 1.0), bet rodo fazinį uždegimą, kai atlygis gaunamas su mažiau nei 100 % tikimybė, net ir po ilgų treniruočių (Fiorillo ir kt., 2003 m). Dabartiniame tyrime parodėme didesnį krūvio aktyvumą, kad būtų atlyginta, kai atlygis buvo netikėtas (33 proc. būklė), palyginti su tuo, kada buvo tikimasi (100 proc. būklė), atitinkanti šias išvadas. Be to, elektrofiziologiniai dopamino neuronų tyrimai gyvūnuose (pvz. Fiorillo ir kt., 2003 m) parodė, kad atliekant tyrimus, kurių metu buvo numatytas atlygis, bet jo nebuvo, neuronų aktyvumas sumažėjo. Dabartinis tyrimas parodė panašų accumbens modelį, o aktyvumas šiame regione sumažėjo neatlygintinų bandymų metu, kai atlygio tikimybė yra 66%, palyginti su 33% sąlyga.2
Dopamino neuronai buvo susiję su mokymusi dviem būdais. Pirma, jie koduoja nenumatytas aplinkybes tarp dirgiklių (arba atsako) ir rezultatų per numatymo klaidų signalus, kurie nustato lūkesčių pažeidimus (Schultz ir kt., 1997 m; Mirencowiczius ir Schultzas, 1998; Fiorillo ir kt., 2003 m). Taigi, atrodo, kad numatymo klaida suteikia mokymo signalą, atitinkantį iš pradžių aprašytus mokymosi principus Rescorla ir Wagneris (1972). Antra, jie keičia elgesio reakcijas (Schultz ir kt., 1997 m; McClure ir kt., 2004 m) taip, kad veiksmai būtų nukreipti į labiausiai nuspėjančius ženklus. Dabartiniame tyrime parodome, kad vėlyvaisiais eksperimento bandymais optimaliausias veikimas yra esant didžiausiai atlygio tikimybei (100 % atlygio tikimybė) ir mažiausiai optimaliai esant mažiausios tikimybės sąlygai (33 % atlygio tikimybė). Šis elgsenos atradimas atitinka ankstesnį tikimybių darbą, rodantį mažiausiai optimalų našumą su mažiausia atlygio rezultato tikimybe, o tai rodo, kad laikui bėgant buvo išmokta gauti atlygį (Delgado ir kt., 2005 m). Siekdami dar labiau parodyti mokymąsi, eksperimento pabaigoje pristatėme atvirkštinį atlygio tikimybę 33 % ir 100 % sąlygomis. Dėl šios manipuliacijos šių sąlygų skirtumai susilpnėjo, o tai dar labiau patvirtino mokymosi poveikį.
Pagrindinis su atlygiu susijusių tyrimų tikslas yra nustatyti, kaip atlygis daro įtaką ir šališką elgesį (pvz Robbins ir Everitt, 1996; Schultz, 2004) be pagrindinio nervinio apdorojimo apibūdinimo. Daugelis veiksnių prisideda prie to, kaip greitai ir tvirtai atlygis įtakoja elgesį, įskaitant pastiprinimo grafikus (Skinner, 1958), atlygio vertė (Galvan ir kt., 2005 m) ir atlygio nuspėjamumas (Fiorillo ir kt., 2003 m; Delgado ir kt., 2005 m). Tikėtina vertė, kuri yra atlygio dydžio ir tikimybės sandauga (Paskalis, maždaug 1600 m.), turi įtakos elgesio pasirinkimams (von Frisch, 1967 m; Montague ir kt., 1995; Montague ir Berns, 2002). Naudodami labai panašią užduotį, kurioje tik rezultatas (dydis, o ne tikimybė) skyrėsi nuo dabartinio tyrimo, parodėme, kad nucleus accumbens buvo jautrus atskiroms atlygio vertėms (Galvan ir kt., 2005 m). Kartu su čia ir kitur pateiktais įrodymais (Tobleris ir kt., 2005 m), siūlome, kad ventralinis striatumas greičiausiai prisidėtų prie numatomos atlygio vertės skaičiavimo, atsižvelgiant į jo jautrumą ir atlygio tikimybei, ir dydžiui.
Orbitinės priekinės žievės vaidmuo prognozuojant atlygį atitinka funkcinius šio regiono padalinius. Kringelbachas ir Rollsas (2004 m.). Jie rodo, kad daugiau priekinės ir vidurinės OFC dalių yra jautrios abstrakčioms atlygio manipuliacijoms. OFC aktyvinimas šiame tyrime buvo pastebėtas šioje bendroje vietoje. Elektrofiziologiniai tyrimai rodo, kad OFC koduoja subjektyvią atlygio stimulo vertę (peržiūrai, O'Doherty, 2004). Pavyzdžiui, OFC neuronai skleidžia tam tikrą skonį, kai gyvūnas yra alkanas, tačiau sumažina jų degimo greitį, kai gyvūnas pasisotina ir sumažėja maisto atlygio vertė (Critchley ir Rolls, 1996 m). Todėl kiti teigė, kad OFC yra jautriausias santykiniams atlygiams (Tremblay ir Schultz, 1999) ir atlygio pirmenybė (Schultz ir kt., 2000 m). Neurovaizdo tyrimai parodė analogišką modelį žmonėms su įvairiais dirgikliais, įskaitant skonį (O'Doherty ir kt., 2001 m; Kringelbach ir kt., 2003 m), uoslė (Anderson ir kt., 2003 m; Rolls ir kt., 2003 m), ir pinigai (Elliott ir kt., 2003 m; Galvan ir kt., 2005 m), su kiekviena aktyvacija skiriasi veiklos vieta nuo priekinės iki užpakalinės ir nuo medialinės iki šoninės OFC. OFC buvo susijęs su atlygio tikėjimu (O'Doherty ir kt., 2002 m), bet tik tiek, kiek nuspėjamoji atsako reikšmė yra susieta su konkrečia kainas susijusio atlygio, o ne tikimybę, kad tas atlygis įvyks (O'Doherty, 2004 ). Dabartiniame tyrime nematėme jautrumo OFC atlygio prognozavimo pažeidimams. Knutsonas ir kolegos (2005) pranešė apie koreliacijas tarp tikimybės įvertinimų ir smegenų aktyvacijos, tikėdamiesi atlygio mezialinėje prefrontalinėje žievėje (Knutsonas ir kt., 2005 m), bet ne konkrečiai orbitinėje priekinėje žievėje. Priešingai, Ramnani ir kt. (2004 m ) pranešė apie OFC jautrumą teigiamai prognozės klaidai medialinėje orbitinėje priekinėje žievėje, naudojant pasyvaus žiūrėjimo užduotį ir Dreher ir kt. (2005 m.) pranešė apie OFC klaidos numatymą užduotyje, kuri manipuliavo nuspėjamųjų užuominų tikimybe ir dydžiu, tačiau šie nenumatymai buvo išmokti prieš nuskaitant. Todėl vis dar galima teigti, kad OFC gali apskaičiuoti numatomą atlygį, tačiau galbūt šie skaičiavimai yra grubesni (ty apibendrinami pagal tikimybių diapazoną) arba lėtesni, palyginti su tiksliais skaičiavimais, kurie, atrodo, atliekami NAcc. Arba ši sritis gali būti jautresnė aptikdama neaiškios ir (arba) dviprasmiškos vertės dirgiklius, kaip siūlo Hsu et al (2005), nei nustatant atlygio numatymo pažeidimus. Hsu et al (2005) parodykite, kad pasirinkimų dviprasmiškumo lygis (neaiškus pasirinkimas dėl trūkstamos informacijos) teigiamai koreliuoja su aktyvavimu OFC. Galiausiai, didesnis MR signalo kintamumas šiame regione taip pat galėjo sumažinti mūsų gebėjimą aptikti šiuos efektus.
Pagrindinis dabartinio tyrimo klausimas buvo tai, kaip accumbens ir OFC skirtingai koduoja atlygio rezultatus, palyginti su nenuspėtais rezultatais (ty lūkesčių pažeidimais). Mes parametriškai manipuliavome atlygio tikimybe ir ištyrėme nervinį atsaką į atlygio ir neatlygio bandymus kiekvienai tikėtino atlygio sąlygai. Mūsų duomenys atitinka ankstesnius žmogaus vaizdavimo ir ne žmogaus elektrofiziologinius tyrimus (Fiorillo ir kt., 2003 m; Schultz, 2002) ir rodo, kad accumbens ir OFC yra jautrūs atlygio rezultatams (atlygiui ar ne). Tačiau atrodo, kad aktyvumą šiuose regionuose, ypač accumbens, moduliuoja prognozės apie atlygio rezultatų tikimybę, kuri susidaro laikui bėgant. Šis dinaminis aktyvavimo modelis gali reikšti dopamino aktyvumo pokyčius šiuose regionuose arba į juos nukreiptus, nes informacija apie numatomą atlygį yra sužinoma ir atnaujinama.
Išnašos
1NAcc [t(11) = 3.2, p < 0.04] ir OFC [t(11) = 3.5, p < 0.02] parodė padidėjusį aktyvumą tikintis atlygio už periodišką, bet ne nuolatinę atlygio sąlygą
2Praleidus atlygio rezultatą esant 33 % būsenai, NAcc aktyvumas šiek tiek padidėjo, o ne sumažėjo, panašiai kaip pastebėta Knutson ir kt., 2001. Vienas iš galimų šio rezultato aiškinimų yra tas, kad tiriamieji buvo iš esmės motyvuoti arba buvo apdovanoti, jei numatė, kad už tą bandymą atlygio nebus, o nė vienas to nepadarė. Arba, kadangi atlygio rezultatai už šiuos bandymus buvo mažiausi per visą eksperimentą, veikla gali atspindėti tolesnį mokymąsi dėl šios būklės.
Leidėjo atsisakymas: Tai PDF failas iš neregistruoto rankraščio, kuris buvo priimtas paskelbti. Kaip paslauga mūsų klientams teikiame šią ankstyvą rankraščio versiją. Rankraštis bus kopijuojamas, užrašomas ir peržiūrimas gautas įrodymas, kol jis bus paskelbtas galutinėje cituotojoje formoje. Atkreipkite dėmesį, kad gamybos proceso metu gali būti aptiktos klaidos, kurios gali turėti įtakos turiniui, ir visi su žurnalu susiję teisiniai atsakymai.
Nuorodos
- Anderson A, Christoff K, Stappen I, Panitz D, Ghahremani D, Glover G, Gabrieli JD, Sobel N. Disssociated neuronatives of intensity and valence in human olfaction. Gamtos neurologija. 2003;6: 196-202.
- Berns GS, McClure SM, Pagnoni G, Montague PR. Nuspėjamumas moduliuoja žmogaus smegenų reakciją į atlygį. Neuroscience žurnalas. 2001;21: 2793-2798. [PubMed]
- Boynton GM, Engel SA, Glover GH, Heeger DJ. Žmogaus V1 funkcinio magnetinio rezonanso tomografijos linijinės sistemos analizė. Neuroscience žurnalas. 1996;16: 4207-4221. [PubMed]
- Cox RW. AFNI: funkcinių magnetinių rezonansinių neuronų vaizdų analizės ir vizualizavimo programinė įranga. Biomedicininių tyrimų skaičiavimai. 1996;29: 162-173.
- Cox SM, Andrade A, Johnsrude IS. Mokymasis patikti: žmogaus orbitofrontalinės žievės vaidmuo sąlyginio atlygio srityje. Neuroscience žurnalas. 2005;25: 2733-2740. [PubMed]
- Craigas AD, Chen K, Bandy D, Reimanas EM. Termosensorinis salos žievės aktyvinimas. Gamtos neurologija. 2000;3: 184-190.
- Critchley HD, Rolls ET. Alkis ir sotumas keičia uoslės ir regos neuronų atsaką primatų orbitofrontalinėje žievėje. Neurofiziologijos žurnalas. 1996;75: 1673-1686. [PubMed]
- De Araujo IET, Kringelbach ML, Rolls ET, McGlone F. Žmogaus žievės atsakas į vandenį burnoje ir troškulio poveikis. Neurofiziologijos žurnalas. 2003;90: 1865-1876. [PubMed]
- Delgado MR, Miller M, Inati S, Phelps EA. Su atlygiu susijusio tikimybių mokymosi fMRI tyrimas. Neuroimage. 2005;24: 862-873. [PubMed]
- Dreher JC, Kohn P, Berman KF. Žmonių atlygio informacijos atskirų statistinių savybių neuroninis kodavimas. Smegenų žievės. 2005 „Epub“ prieš spausdinimą.
- Elliott R, Newman JL, Longe OA, Deakin JFW. Skirtingi atsako modeliai striatumoje ir orbitofrontalinėje žievėje į finansinį atlygį žmonėms: parametrinis funkcinis magnetinio rezonanso tyrimas. Neuroscience žurnalas. 2003;23: 303-307. [PubMed]
- Fiorillo CD, Tobler PN, Schultz W. Diskretus atlygio tikimybės ir neapibrėžtumo kodavimas dopamino neuronais. Mokslas. 2003;299: 1898-1902. [PubMed]
- Galvan A, Hare TA, Davidson M, Spicer J, Glover G, Casey BJ. Ventralinės frontostriatrijos grandinės vaidmuo atlyginimu grindžiamame mokyme žmonėms. Neurologijos žurnalas. 2005;25: 8650-8656. [PubMed]
- Galvan A, Hare TA, Parra C, Penn J, Voss H, Glover G, Casey BJ. Ankstesnis stuburo vystymasis, palyginti su orbitofrontaline žieve, gali būti paauglių rizikingo elgesio pagrindas. Neurologijos žurnalas. 2006;26: 6885-6892. [PubMed]
- Gottfried JA, O'Doherty J, Dolan RJ. Prognozuojamo atlygio vertės kodavimas žmogaus amygdaloje ir orbitofrontalinėje žievėje. Mokslas. 2003;301: 1104-1107. [PubMed]
- Haber SN. Primatų baziniai ganglijos: lygiagretūs ir integraciniai tinklai. Cheminės neuroanatomijos žurnalas. 2003;26: 317-330. [PubMed]
- Hollerman J, Schultz W. Dopamino neuronai praneša apie klaidą laiko prognozuojant atlygį mokymosi metu. Gamtos neurologija. 1998;1: 304-309.
- Hsu M, Bhatt M, Adolphs R, Tranel D, Camerer CF. Neuroninės sistemos reaguoja į neapibrėžtumo laipsnį žmogaus priimant sprendimus. Mokslas. 2005;310: 1680-1683. [PubMed]
- „Knutson B“, „Adams CM“, „Fong GW“, „Hommer D.“. Neuroscience žurnalas. 2001;21: 1-5.
- Knutson B, Taylor J, Kaufman M, Peterson R, Glover G. Disstrbuted neuron reprezentacija tikėtinos vertės. Neurologijos žurnalas. 2005;25: 4806-4812. [PubMed]
- Kringelbach ML, O'Doherty J, Rolls ET, Andrews C. Žmogaus orbitofrontalinės žievės suaktyvinimas skysto maisto stimului koreliuoja su jo subjektyviu malonumu. Smegenų žievės. 2003;13: 1064-1071. [PubMed]
- Kringelbach ML, Rolls ET. Žmogaus orbitofrontalinės žievės funkcinė neuroanatomija: neurovaizdavimo ir neuropsichologijos įrodymai. Neurobiologijos pažanga. 2004;72: 341-372. [PubMed]
- Leonas MI, Shadlen MN. Tikėtino atlygio dydžio įtaka neuronų atsakui makakos dorsolaterinėje prefrontalinėje žievėje. Neuronas. 1999;24: 415-425. [PubMed]
- McClure SM, Berns GS, Montague PR. Laikinos numatymo klaidos pasyvioje mokymosi užduotyje suaktyvina žmogaus striatumą. Neuronas. 2003;38: 339-346. [PubMed]
- McClure SM, Laibson DI, Loewenstein G, Cohen JD. Atskiros nervinės sistemos vertina neatidėliotinus ir vėluojamus piniginius atlyginimus. Mokslas. 2004;306: 503-507. [PubMed]
- Mirenowicz J, Schultz W. Nenuspėjamumo svarba atlyginimų atsakams primatų dopamino neuronuose. Neurofiziologijos žurnalas. 1994;72: 1024-1027. [PubMed]
- Montague PR, Berns GS. Neuroninė ekonomika ir biologiniai vertinimo pagrindai. Neuronas. 2002;36: 265-284. [PubMed]
- Montague PR, Hyman SE, Cohen JD. Dopamino skaičiavimo vaidmenys elgesio kontrolėje. Gamta. 2004;431: 379-387.
- O'Doherty JP. Apdovanojimų atstovavimas ir su atlygiu susijęs mokymasis žmogaus smegenyse: neurovizijos įžvalgos. Dabartinė nuomonė neurobiologijoje. 2004;14: 769-776. [PubMed]
- O'Doherty JP, Dayan P, Friston K, Critchley H, Dolan RJ. Laiko skirtumų modeliai ir su atlygiu susijęs mokymasis žmogaus smegenyse. Neuronas. 2003;38: 329-337. [PubMed]
- O'Doherty JP, Deichmann R, Critchley HD, Dolan RJ. Neuroniniai atsakai laukiant pirminio skonio atlygio. Neuronas. 2002;33: 815-826. [PubMed]
- O'Doherty J, Kringelbach M, Rolls ET, Hornak J, Andrews C. Abstract reward and punishment representations in the human orbitofrontal cortex. Gamtos neurologija. 2001;4: 95-102.
- O'Doherty J, Rolls ET, Francis S, Bowtell R, McGlone F, Kobal G, Renner B, Ahne G. Su jutiminiu specifiniu sotumu susijusi žmogaus orbitofrontalinės žievės uoslės aktyvacija. NeuroReport. 2000;11: 893-897. [PubMed]
- Olds J, Milner P. Teigiamas armavimas, gaunamas elektriniu stimuliuojant tarpinę sritį ir kitus žiurkių smegenų regionus. Lyginamosios fiziologijos ir psichologijos žurnalas. 1954;47: 419-427.
- Ramnani N, Elliott R, Athwal B, Passingham R. Prediction error for free monetary reward in the human prefrontal cortex. NeuroImage. 2004;23: 777-786. [PubMed]
- Rescorla R, Wagner A. In: 2 klasikinis kondicionavimas: dabartiniai tyrimai ir teorija. Black A, Prokasy W, redaktoriai. Appleton Century-Crofts; Niujorkas: 1972. 64–69 p.
- Robbinsas TW, Everitas BJ. Atlygio ir motyvacijos neuroelgesio mechanizmai. Dabartinės nuomonės dėl neurobiologijos. 1996;6: 228-235.
- Rolls E, Kringelbach M, DeAraujo I. Įvairūs malonių ir nemalonių kvapų atvaizdai žmogaus smegenyse. Europos neurologijos žurnalas. 2003;18: 695-703. [PubMed]
- Schultz W, Dayan P, Montague PR. Numatymo ir atlygio neuroninis substratas. Mokslas. 1997;275: 1593-1599. [PubMed]
- Schultz W, Tremblay L, Hollerman JR. Apdovanojimas apdovanojimu primityviame orbitofrontiniame žieve ir baziniame ganglijoje. Cereb Cortex. 2000;10: 272-284. [PubMed]
- Schultz W. Oficialus dopamino ir atlygio gavimas. Neuronas. 2002;36: 241-263. [PubMed]
- Schultz W. Pagrindinių gyvūnų mokymosi teorijos, žaidimų teorijos, mikroekonomikos ir elgesio ekologijos atlygio terminų neuroninis kodavimas. Dabartinė nuomonė neurobiologijoje. 2004;14: 139-147. [PubMed]
- Skinner BF. Sustiprinimo grafikų sudarymas. Eksperimentinės elgesio analizės žurnalas. 1958;1: 103-107.
- Sutton RS, Barto AG. Stiprinamasis mokymasis: įvadas. MIT spauda; Kembridžas, MA: 1998 m.
- Schultz W, Tremblay L, Hollerman J. Atlygio apdorojimas primatų orbitofrontalinėje žievėje ir baziniuose ganglijose. Smegenų žievės. 2000;10: 272-284. [PubMed]
- Talairachas J., Tournoux P. Žmogaus smegenų bendrplaninis stereotaksinis atlasas. Thieme; Niujorkas: 1988 m.
- Tobler PN, Fiorillo CD, Schultz W. Dopamino neuronų adaptyvus atlygio vertės kodavimas. Mokslas. 2005;307: 1642-1645. [PubMed]
- Tremblay L, Schultz W. Santykinis atlygio pranašumas primatų orbitofrontalinėje žievėje. Gamta. 1999;398: 704-708. [PubMed]
- von Frisch K. Bičių šokio kalba ir orientacija. Harvardo universiteto leidykla; Kembridžas, Masačusetsas: 1967 m.