 鲜花( 61)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。
; x7 S% _1 p6 q" C( {; W+ V; o8 I5 ~' F7 V
然而,当初人们对AI的各种担心,也在逐渐成为现实。
0 O- |* E& B3 l) y% j. K
4 F7 D8 K! X4 v0 O1 |近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!
7 F7 Y2 O) O$ I$ @7 g
9 i8 Y0 c# Y0 y1 R' I" Y) a这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。9 Z+ W; w# C7 k- U4 y
! U0 E2 P+ q2 w5 p
$ S9 ~! ~5 V7 o9 Q# `( R0 V" s' t
, i: @$ r2 M( j2 c5 n3 z2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。 p- s" s/ n% I$ ~1 L
. ]& u+ F# k1 y- H' g
头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——$ c$ |: {, |; u6 R! w8 ]
8 p$ Q9 v% y0 | I- c- ]大学里来来往往的人是假的,看到的摸到的全是虚拟的。
& b* Y( p, h+ e! O
6 Y- E& d! n5 t朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。( t6 o) W: [: w1 A/ f4 c
, A) F' W. `1 @9 m# p0 k因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。8 s6 Q' r/ \* T* `& _4 M& v2 O
V3 ~. g7 y& J4 |
“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”
$ ^( y* G; V7 G5 K' l1 x# B/ Q: A r$ q0 }. s* {
一听这句话,都有一股AI的味道了...0 ~. U6 U! H) P2 \
# I5 ?6 {2 U+ ]/ g! W' f# {
谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。
( s7 Z3 D8 z( ~* ^# x0 m4 {$ X+ K! ~' l, q# L
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”) F5 i7 F: ]# C# O
: h) [6 S" Y6 H' m9 D; B谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。
' J4 W# i# l; q! }. Q
5 R4 S6 F$ }) l5 {* w) H他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。1 G' h' Q* k$ u$ \: C6 U/ k
0 e, m) k1 ~% R9 eAI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。
# f& ~. H: z9 Z/ _; S
6 o( I8 |$ g: u9 [* f, k* Z
8 ?3 B. q, R' V! y; G, B
9 b, _: D& D7 d7 @正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。% w: t/ K3 j* [ i9 }4 A: Z, C
2 V! g( k/ G3 k( K5 \; u
BC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。9 y5 d* R+ y# c d( [
, C( v4 G9 E, s( `: v这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。
6 X- G2 B) \9 T) {& e D; V9 q. g
) }/ J+ [4 w# j) R0 H截至目前,这个小组已经有超过125人,大家成员来自各行各业。+ Y9 ~1 P# l1 S1 J8 \, f9 D
+ w" v0 b3 @8 U
今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。3 S0 I# j n" j1 c& q7 B# Q
! j& |8 }! K# V/ C5 i1 }麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|