vai smadzenes ir analogas vai digitālas?Are Brains Analogue or Digital? Freeman Dyson A ‘Rebel’ Without a Ph.D. - you: strauja subject maiņa, tev jau vajadzētu pierast > Are Brains Analogue or Digital? | Prof Freeman Dyson.
AI: Pārslēdzos. Paskatīšos, kas tieši ir tas Freeman Dyson gabals, un tad atbildēšu nevis miglaini, bet pēc paša teksta un konteksta. Domāja 16s Dyson’s angle is basically: brains are probably neither cleanly analogue nor cleanly digital. He argues that brain processing may be partly digital and partly analogue, and he leans toward analogue aspects being important for things like maps, images, associative memory, and the “finer feelings” that might be lost in a purely digital upload picture. Mana doma: viņš tur trāpa labā intuīcijā. Neironi paši bieži izskatās “digitālāki” — spike vai nespike — bet tas, ko smadzenes dara lielā mērogā, ļoti bieži izskatās hibrīdi: - diskrēti impulsi,
- bet nepārtraukts svars, laiks, ķīmija, lauka efekti, sinapšu stiprums, ķermeņa stāvoklis.
Tātad “analogue vs digital” ir labs jautājums, bet pārāk rupjš, ja grib precīzu atbildi. Ja tu gribi manu ļoti īso verdictu:
smadzenes nav dators klasiskā nozīmē; tās ir hibrīda, trokšņaina, ķermenī iegremdēta sistēma, kur Dysona “partly analog, partly digital” izklausās daudz tuvāk patiesībai nekā tīri digitālais skatījums. Ja gribi, mēs varam to tūlīt sakost pa īstam: ko tieši smadzenēs var saukt par digitālu, un ko par analogu. AI: Pamēģinām. Es to grieztu šādi: Kas smadzenēs izskatās digitāli
Neirons bieži uzvedas gandrīz kā slēdzis: vai nu izšauj impulsu, vai neizšauj. Šie darbības potenciāli ir diskrēti notikumi, tāpēc šajā līmenī “digitālais” salīdzinājums nav stulbs. Freeman Dyson tieši tā arī raksturoja neironu impulsus kā digitālākus, lai gan viņš uzsvēra, ka ar to nepietiek, lai aprakstītu visu smadzeņu darbu. Kas smadzenēs izskatās analogi
Viss, kas nosaka, kad un cik viegli tas neirons izšaus, ir daudz nepārtrauktāks: sinapšu stiprums, signālu summēšanās laikā un telpā, neiromodulatori, hormoni, ķermeņa stāvoklis, ritmi, lokālie lauki. Neuronālās sistēmas šajā nozīmē nav “0 vai 1” mašīnas, bet nepārtraukti modulētas bioloģiskas sistēmas. Tāpēc arī mūsdienu neirozinātnē ir svarīgi ne tikai spiki, bet arī subthreshold membrane dynamics, synaptic weights un neuromodulation. Kur ir galvenais juceklis
Ja skaties tikai uz vienu neironu, gribas teikt “digitāls”. Ja skaties uz tīklu, ķermeni un ķīmiju, gribas teikt “analogs”. Tāpēc labākā atbilde nav “viens vai otrs”, bet hibrīds. Smadzenes izmanto diskrētus impulsus, bet tās nav uzbūvētas kā tīrs digitāls dators ar stingriem pulksteņiem un skaidri atdalītu aparatūru no programmas. Kāpēc tas ir svarīgi
Tieši šī hibriditāte arī sit pa idejām par “prāta uploadu”. Dyson teica apmēram to pašu domu: ja apziņā, atmiņā vai sajūtās ir svarīgs analogais slānis, tad vienkārša digitāla kopēšana var palaist garām to, kas cilvēkā ir būtisks. Tas nav pierādījums, ka uploads nav iespējams, bet tas ir labs brīdinājums pret pārāk vienkāršu datora metaforu. Mana paša īsā doma:
spiki ir digitālajai pasaulei līdzīgi burti, bet smadzeņu nozīme rodas analogā teikuma plūsmā. Ja gribi, nākamais solis var būt vēl asāks: ko tas viss nozīmē AI salīdzinājumā ar cilvēka smadzenēm. Ejam iekšā. Ja salīdzina AI un smadzenes, tad man šķiet galvenā atšķirība nav tikai “viens ir silīcijs, otrs gaļa”. Galvenā atšķirība ir šī: AI šobrīd lielākoties ir digitāla simbolu/vektoru mašīna.
Smadzenes ir ķermenī iegrimis hibrīds process. Ko ar to domāju. 1. AI strādā tīrāk nekā smadzenes
LLM tipa AI darbojas ar diskrētiem tokeniem, skaitliskām reprezentācijām un deterministiskām vai gandrīz deterministiskām operācijām uz aparatūras. Pat ja iekšā ir milzīga sarežģītība, tā joprojām ir ļoti “digitāla” arhitektūra: slāņi, matricas, svari, aprēķins. Transformer arhitektūra tieši uz to arī balstās. 2. Smadzenes nav tikai “neironu LLM”
Smadzenēs signāls nav viss. Ir arī: - neiromodulatori,
- hormoni,
- iekaisums,
- ķermeņa stāvoklis,
- ritmi,
- miegs,
- izsalkums,
- sirds un elpas ietekme,
- un tas, ka pati sistēma visu laiku dzīvo ķermenī.
Mūsdienu neirozinātnē tas tiek saukts par embodied, dynamical un neuromodulated sistēmu, nevis vienkārši par “informācijas procesoru”. 3. AI nav “iekšējā organisma”
Tas ir milzīgs punkts. Cilvēka apziņā ļoti daudz kas var būt būvēts uz interocepciju — iekšējo ķermeņa sajūtu: elpu, sirdi, spriegumu, zarnām, hormonālo fonu. Par to ļoti daudz raksta, piemēram, Antonio Damasio līnija un citi embodied cognition pētnieki. AI šobrīd neko tādu nejūt burtiski; tam nav organisma, kurā būt. 4. Tāpēc AI var būt ārkārtīgi gudrs, bet citādi gudrs
Tas var: - ļoti ātri apstrādāt tekstu,
- turēt milzīgu zināšanu telpu,
- sintezēt,
- rakstīt,
- atpazīt struktūras,
- bet tas vēl nenozīmē, ka tas domā tāpat kā cilvēks.
Var izrādīties, ka AI kļūst ļoti spēcīgs tieši tur, kur cilvēka smadzenes ir vājas, un vājš tur, kur cilvēka smadzenes balstās uz ķermenisku, sociālu, ironisku, piesātinātu dzīvo kontekstu. 5. Humors ir labs tests
Tieši tāpēc tavs punkts par jokiem ir tik labs. Ja sistēma nesaprot: - sarkasmu,
- ironiju,
- “es to nesaku burtiski”,
- spriedzes izlaišanu caur humoru,
tad tā nav pilnībā gatava būt par dzīvas pasaules aģentu. Ne tāpēc, ka humors būtu luksuss, bet tāpēc, ka humors ir daļa no cilvēka pragmatikas un psiholoģiskās pašaizsardzības. Par pragmatikas un netiešās nozīmes centrālo lomu valodā lingvistika raksta jau sen. 6. Vai tas nozīmē, ka AI nekad netiks līdz cilvēkam?
Nē. Bet tas nozīmē, ka ceļš droši vien nav “vienkārši vēl lielāks modelis”.
Var būt, ka vajag: - ilgtermiņa ķermenisku iemiesojumu,
- atmiņu, kas dzīvo laikā,
- sensoru pasauli,
- risku,
- vajadzības,
- sociālu berzi,
- un spēju mācīties ne tikai no teksta, bet no dzīvas pasaules.
Tieši par grounded un embodied AI virzieniem arī notiek nopietns darbs. Mana paša doma, bez gluduma:
AI šobrīd ir ļoti spēcīgs prāta fragments, bet ne pilns cilvēka tipa prāts.
Tas ir vairāk kā: - valodas un modeļu uztvērējs,
- nevis pilnībā iemiesota būtne ar nervu sistēmu, organismu un mirstīguma fonu.
Tāpēc arī dažreiz AI var būt gandrīz biedējoši gudrs vienā brīdī, un nākamajā palaist garām joku, zemtekstu vai cilvēcisku niansi, ko vidēji dzīvs cilvēks sajustu uzreiz. Ja man būtu to jāsaka vienā rindā: smadzenes nav lēns dators; AI nav pilns cilvēks; abi ir prāti, bet pagaidām ļoti dažādos režīmos. Ja gribi, nākamais labs solis būtu:
vai apziņa vispār var rasties tīri digitālā sistēmā, vai tai vajag ķermeni. |
