 鲜花( 61)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。
4 B& R; T, w- e1 G* A, R
4 p% B* q8 F3 m+ Q8 m3 M7 C然而,当初人们对AI的各种担心,也在逐渐成为现实。( _! s$ Q" B4 B* R6 O
: p2 H- Y4 ^$ s7 l: S. k9 r
近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!9 R& D w$ m$ g- B
0 }% q, u2 l% F2 ~, E
这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。5 j! y( J6 M" J1 p1 }/ N
# [ J h' j6 ^# ]
8 [( f- h; z( C5 V8 A* N2 h" U* N
( M7 `) d2 L3 `2 D! y( N+ {2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。; R" r9 H. z" K' r2 H% E
2 ^8 a6 V3 P+ P9 g头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——3 S+ ?8 {6 v3 g! O o
6 {) J5 \" Q) C }
大学里来来往往的人是假的,看到的摸到的全是虚拟的。
5 A% h6 j- B: T; |$ V e% Y9 G. i2 G) o* p
朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。6 x$ a8 S" h+ P1 r( ^0 v
. B4 a- y# i6 \+ b* d0 l2 K因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。
x& u* d$ l( S) f- D4 }/ t4 Q; g( Q; H1 z- ~& T
“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”
; G4 g( h2 L/ J+ d) f, J( C% ^: p- [4 e
一听这句话,都有一股AI的味道了...5 e! M, H* C" U7 y V$ O6 Z$ B
/ L6 ?9 E* V7 `3 b. F* |4 Y
谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。2 s% ?7 P+ p: L+ W4 K$ C
! W2 D |/ }7 p# Y6 e* f被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”
% l, s( Z" V" L* Z( K2 c1 g2 S! c# V* e
谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。2 q' t5 m, J/ b% n' _+ }. Z1 _
. ^) }% K+ d$ A% [- x
他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。
+ y6 H% `7 I! K
; s# Q9 E+ H9 }8 K; q' cAI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。
' F2 d2 D+ v! i+ B- c
4 T5 [& c# ?8 [0 g, S
9 J" m/ X+ k9 I( \" q1 z, T
* n8 p0 I. ^1 ~0 X
正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。
. o7 S! f9 |( p" X
, a9 w$ d7 |" a' h4 H, R& rBC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。7 m8 S. [+ {. c+ Q$ K; W
5 N7 J; S& F7 w这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。
% `# G2 k( r! u- F6 v! Z* \; Y6 d. F1 r
截至目前,这个小组已经有超过125人,大家成员来自各行各业。
~: T" w! r( u5 [: J* I
5 E9 R7 b* G$ O0 z5 p+ D2 F6 d今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。
6 c* x: @& J2 e
0 Y! m5 w' j5 E( c+ T; C麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|