Chatbots d’IA enllaçats amb la psicòsi, diuen els metges

Notícia del WSJ: https://www.wsj.com/tech/ai/ai-chatbot-psychosis-link-1abf9d57

Reflexió de Jonathan Haidt:
( Font: https://x.com/jonhaidt/status/2005255570844971321?s=46&t=AQx3f3iwG9rWcLchUFlJqA)

Dos imperatius de la infància humana: aprendre a pensar per tu mateix, alhora que et converteixes en un participant de ple dret en la matriu moral compartida de la teva societat.

Els chatbots interfereixen amb tots dos imperatius. Vegeu aquest article del WSJ de @juliejargon, sobre la freqüència i la profunditat amb què els chatbots creen o amplifiquen la psicosi en adults. L’estimació pròpia d’OpenAI és de centenars de milers en una setmana determinada:

WSJ: https://www.wsj.com/tech/ai/ai-chatbot-psychosis-link-1abf9d57

Imagineu un futur en què la gent és menys intel·ligent I cadascú viu al seu propi món poblat per companys d’IA. És un futur que és una combinació de dues grans pel·lícules: Idiocracy i The Matrix. Excepte que a The Matrix, l’al·lucinació va ser “consensual” i compartida. En el nostre futur d’IA, és possible que les càpsules no estiguin ben connectades, de manera que tothom construirà la seva pròpia realitat… que és una mena de definició de psicosi.

Què tal si no posem chatbots als óssos de peluix, a les escoles o a la vida dels nens fins que no entenguem com afecten el desenvolupament infantil? Què tal si no permetem que les empreses d’IA facin a la Generació Alfa i Beta el que vam permetre que les empreses de xarxes socials fessin a la Generació Z?