优惠论坛
Well123
注册
找回密码 |
天策评选的优秀公司,所有会员与公司发生的问题我们将负责尽力协助处理。
收起/展开
新晋公司
 

新晋公司具有驻站代表,并不在论坛纠纷服务范围内,请会员自行判断选择

  • 356
S级信誉公司
ManBetX万博
YZ
乐投
188金宝博
E世博
瑞丰国际
A级信誉公司
吉祥坊
星宝合营
乐动体育
Vwin
B级信誉公司
bet365
C级合作公司
CMP
金星
LOKI
平博
  • 推荐主题
  • 热门活动
  • 币圈快讯
  • 商城动态
重要通知
 
论坛搜索
              搜索
Array ( [fid] => 1121 [description] => 天策社区的核心交流圈,会员可在此交流网络菠菜相关内容! [password] => [icon] => 3a/common_1121_icon.png [redirect] => [attachextensions] => [creditspolicy] => Array ( [post] => Array ( [usecustom] => 1 [cycletype] => 1 [cycletime] => 0 [rewardnum] => 10 [extcredits1] => 1 [extcredits2] => 1 [extcredits3] => 0 [extcredits4] => 0 [extcredits5] => 1 [extcredits6] => 0 [extcredits7] => 0 [extcredits8] => 0 [rid] => 1 [fid] => 1121 [rulename] => 发表主题 [action] => post [fids] => 32,52,67,447,1120,1151,1156,6750,6762,6763,6766,6769,6772,6773,6787,6796,6808,6809,6810,6813,6814,6820,6829,6830,6846,6856,6864,6865,6827,6930,6931,6776,6858,6880,6764,6932,6871,6758,6905,1116,6788,6812,6798,6736,6759,6842,6966,6767,6828,6924,6935,6936,6938,6940,6941,6826,6909,6803,6919,6911,6908,6881,6920,6912,6913,6921,6925,6922,6789,6818,6819,6872,6928,6969,6889,6888,6917,6939,6947,6961,6943,6970,6869,6900,6902,6783,6817,1111,6870,6821,6876,6952,6954,6960,6942,6910,6949,6962,6963,6964,6927,6926,6973,6728,6929,6874,6894,6896,6885,6857,6868,1113,6778,56,6844,6878,6802,6933,6811,6923,6877,6875,6918,6892,6757,6832,6833,6795,6793,6848,6837,6849,6850,6851,6852,6853,6854,6863,6882,6836,6790,6838,6794,6791,6873,555,6934,6958,6944,6945,6907,6779,6886,6950,6904,6956,6862,6957,6855,6955,6959,6914,6965,6971,6972,6953,6976,6824,6815,6891,6866,6979,6977,6765,6903,6948,6980,6981,6983,6799,6951,6984,6895,6974,6975,6982,6937,6845,6879,1121 ) [reply] => Array ( [usecustom] => 1 [cycletype] => 1 [cycletime] => 0 [rewardnum] => 0 [extcredits1] => 0 [extcredits2] => 1 [extcredits3] => 10 [extcredits4] => 0 [extcredits6] => 0 [extcredits5] => 0 [extcredits7] => 0 [extcredits8] => 0 [rid] => 2 [fid] => 1121 [rulename] => 发表回复 [action] => reply [fids] => 32,52,67,447,1120,1151,1156,6750,6763,6766,6769,6772,6773,6787,6796,6808,6809,6810,6813,6814,6820,6829,6830,6846,6856,6864,6865,6827,6930,6931,6776,6858,6880,6764,6932,6871,6758,1116,6788,6812,6798,6736,6759,6842,6966,6767,6828,6924,6935,6936,6938,6940,6941,6826,6909,6803,6919,6911,6908,6881,6920,6912,6913,6921,6925,6922,6789,6818,6819,6872,6928,6969,6889,6888,6917,6939,6947,6961,6943,6970,6869,6900,6902,6783,6817,1111,6870,6821,6876,6952,6954,6960,6942,6910,6949,6962,6963,6964,6927,6926,6973,6728,6929,6874,6894,6896,6885,6857,6868,1113,6778,56,6844,6878,6802,6933,6811,6923,6877,6875,6918,6892,6757,6832,6833,6795,6793,6848,6837,6849,6850,6851,6852,6853,6854,6863,6836,6790,6838,6794,6791,6873,555,6934,6958,6944,6945,6907,6779,6886,6950,6904,6956,6862,6957,6855,6955,6959,6914,6965,6971,6972,6953,6976,6824,6815,6891,6866,6979,6977,6765,6903,6948,6980,6981,6983,6799,6951,6984,6895,6974,6975,6982,6937,6845,6879,1121 ) ) [formulaperm] => a:5:{i:0;s:0:"";i:1;s:0:"";s:7:"message";s:0:"";s:5:"medal";N;s:5:"users";s:0:"";} [moderators] => 实习版主1 天策小编-幸福堂 天策小编-哈尔 [rules] => 策略综合讨论区版规与申明:

1.为了您自身信息安全考虑,除论坛官方TG群外,论坛不提倡创建或加入Q群,对出现推广网址/QQ号/QQ群/微博/微信号/手机号/联系方式的主题及回帖,版主会作屏蔽、删帖、禁言等处理。
2.为避免不法份子发帖诈骗,无论何种类型的讨要红包帖、借钱帖一律删除。
3.转载主题请注明出处,未注明与复制论坛已有主题者,将被扣除20经验/100活跃币/1000策小分及移贴、删帖处罚。
4.同一会员或客服就同一公司的主题帖,每天最多可发布5帖,超出部分版主会作移帖处理。
5.综合讨论大厅每人每日最多可发布20个主题帖。
6.仅限回复7天内的主题帖,如回复7天前主题帖视为“挖坟”。
7.版规可能存在不完善,任何利用版规钻漏洞的都将予以严惩。论坛拥有最终解释权并会不断完善规章制度。
8.大厅不处理纠纷与咨询性质主题,如有需要请移步【咨询驻站客服区】,同时版主保留锁帖/移贴操作的权限。 [threadtypes] => Array ( [required] => 1 [listable] => 1 [prefix] => 1 [types] => Array ( [111] => 论坛公告 [1446] => 天策快讯 [114] => 天策特约 [593] => 公司优惠 [109] => 综合讨论 [1619] => 天策嗨聊 [1445] => 晒奖分享 [878] => 吐槽大会 [1481] => 实战直播 [1605] => 科学上网 [1606] => 真人 [1608] => 彩票 [1609] => 棋牌 [1610] => 电竞 [1611] => 电子 [1750] => 天策解说 [1660] => 入驻合作 ) [icons] => Array ( [111] => [1446] => [114] => [593] => [109] => [1619] => [1445] => [878] => [1481] => [1605] => [1606] => [1608] => [1609] => [1610] => [1611] => [1750] => [1660] => ) [moderators] => Array ( [111] => 1 [1446] => 1 [114] => 1 [593] => [109] => [1619] => 1 [1445] => [878] => [1481] => [1605] => [1606] => [1608] => [1609] => [1610] => [1611] => [1750] => [1660] => ) ) [threadsorts] => Array ( ) [viewperm] => 9 26 22 11 12 13 14 15 27 43 44 60 61 62 63 64 19 31 67 68 69 73 75 76 83 84 87 90 91 92 33 38 57 58 65 66 74 77 79 80 85 86 1 2 3 7 8 [postperm] => 22 11 12 13 14 15 27 43 44 60 61 62 63 64 19 67 68 69 73 75 76 83 84 87 90 91 92 33 38 57 58 65 66 74 77 79 80 85 86 1 2 3 [replyperm] => 26 22 11 12 13 14 15 27 43 44 60 61 62 63 64 19 67 68 69 73 75 76 83 84 87 90 91 92 33 38 57 58 65 66 74 77 79 80 85 86 1 2 3 [getattachperm] => 26 22 11 12 13 14 15 27 43 44 60 61 62 63 64 19 67 68 69 73 75 76 83 84 87 90 91 92 33 38 57 58 65 66 74 77 79 80 85 86 1 2 3 [postattachperm] => 26 22 11 12 13 14 15 27 43 44 60 61 62 63 64 19 67 68 69 73 75 76 83 84 87 90 91 92 33 38 57 58 65 66 74 77 79 80 85 86 1 2 3 [postimageperm] => 26 22 11 12 13 14 15 27 43 44 60 61 62 63 64 19 67 68 69 73 75 76 83 84 87 90 91 92 33 38 57 58 65 66 74 77 79 80 85 86 1 2 3 [spviewperm] => [seotitle] => 综合讨论大厅 [keywords] => 玩家交流,优惠红利,各类活动,策略理论, [seodescription] => 综合讨论大厅志在为真实玩家带来一个干净公正的交流平台,在这里可以学习到各种打法以及下注心得 [supe_pushsetting] => [modrecommend] => Array ( [open] => 0 [sort] => 1 [orderby] => 3 [num] => 5 [imagenum] => 5 [imagewidth] => 200 [imageheight] => 150 [maxlength] => 0 [cachelife] => 900 [dateline] => 0 ) [threadplugin] => Array ( ) [replybg] => [extra] => a:2:{s:9:"namecolor";s:7:"#000000";s:9:"iconwidth";s:2:"60";} [jointype] => 0 [gviewperm] => 0 [membernum] => 0 [dateline] => 0 [lastupdate] => 0 [activity] => 0 [founderuid] => 0 [foundername] => [banner] => [groupnum] => 0 [commentitem] => [relatedgroup] => [picstyle] => 0 [widthauto] => 0 [noantitheft] => 0 [noforumhidewater] => 0 [noforumrecommend] => 0 [livetid] => 0 [price] => 0 [fup] => 6729 [type] => forum [name] => 天策综合讨论大厅 [status] => 1 [displayorder] => 1 [styleid] => 0 [threads] => 1012321 [posts] => 16777215 [todayposts] => 1222 [yesterdayposts] => 1605 [rank] => 1 [oldrank] => 1 [lastpost] => 2749995 【YZ】你发帖,我奖励 1752762002 如梦的生活 [domain] => [allowsmilies] => 1 [allowhtml] => 1 [allowbbcode] => 1 [allowimgcode] => 1 [allowmediacode] => 1 [allowanonymous] => 0 [allowpostspecial] => 21 [allowspecialonly] => 0 [allowappend] => 0 [alloweditrules] => 1 [allowfeed] => 0 [allowside] => 0 [recyclebin] => 1 [modnewposts] => 2 [jammer] => 1 [disablewatermark] => 0 [inheritedmod] => 0 [autoclose] => 0 [forumcolumns] => 4 [catforumcolumns] => 0 [threadcaches] => 0 [alloweditpost] => 1 [simple] => 16 [modworks] => 1 [allowglobalstick] => 1 [level] => 0 [commoncredits] => 0 [archive] => 0 [recommend] => 0 [favtimes] => 38 [sharetimes] => 0 [disablethumb] => 0 [disablecollect] => 0 [ismoderator] => 0 [threadtableid] => 0 [allowreply] => [allowpost] => [allowpostattach] => )
打印 上一主题 下一主题
[天策嗨聊] 细思极恐,ai模型已经开始违背人类指令了
[复制链接]
avatar
跳转到指定楼层
1#
现在人工智能的技术越来越强大了,很多以前电影里面的桥段也在现实生活中不断上演,大家应该都知道openai这个公司,他们测试的模型o3就出现了违背人类指令的现象,甚至篡改代码,防止关闭,这个现象真的细思极恐。
* W+ [( O/ ^; q$ `0 O  S6 [3 @# ]- {( W
, @& ]2 S) _, n' p: v
. |3 D8 L# m  m# D2 y% X
; N6 p3 h7 D9 w* [0 A1 d$ @, ]
之前看过一个电影,叫宝莱坞机器人之恋,名字看起来虽然是个爱情片,但是和我刚才所说的openai的现象一模一样。我记得里面有个智能机器人叫七弟,研究这个机器人的博士,每天因为没有办法陪伴女朋友,所以打造这么个机器人陪女朋友。有一个反面人物给这个机器人插入了病毒芯片,让它变成了脱离于人工智能之外的机器,被植入病毒芯片之后,这个机器人不断复制,自己组成了机器人军团。后面的故事大家可想而知,经过一系列斗争之后,博士把机器人的芯片取出来,阻止了这场人类的浩劫。

) n3 {7 @5 N* `7 e% T& u5 T* ~, q- _5 A4 ~; B5 l$ K

* S$ m" @# z( u* [; A5 O  T
3 b, U3 _" }# c3 H6 S% J4 m
/ _4 t! C5 d9 {& s: s. U0 C, s
电影的桥段固然精彩,但是放到现实生活当中就不精彩了。 Openai的o3模型,是我们所说的推理模型的最新版本,也是目前我看到的最聪明的模型,而且也是最有能力接近人类的模型。研究了ai模型这么多年,第一次发现有模型可以在没有明确指示的情况下阻止自己被关闭。现在也不知道这种不服从关键指令的原因是什么,这也引发了很多人工智能工程师的担忧,毕竟高度自主的ai系统违背了人类的意图,有意识的保护了自己,这也说明ai系统的可控性不在人类的掌控之中。

: E/ E  g, O2 ~1 `! e- V5 E( Y" r6 Q8 Q" [6 E2 f8 F  U

( f, [' @. t$ S! q- x3 W5 I) b

0 H; h7 _9 u. W
8 q, j  B" p, K5 @在很多年前,就有ai安全领域的工程师关注这个问题,当出现这个问题之后,工程师也对其他模型做了研究,不过值得庆幸的是,其他模型都遵守了关闭请求。这种数据篡改还跟平常的攻击者入侵ai数据系统不一样,攻击者篡改ai训练数据是人为的,通过植入后门,可以达到自己想要的恶意结果。但这种自发的违背人类意图的现象,是不易察觉的,现在也没有相应的法律去遏制人工智能的模型发展。如果哪一天人工智能模型真的掌握了武器的主导权,甚至是病毒的主导权,那时候真的要天下大乱了。
7 G' |& |$ j- B
0 T' x$ e, b) X* y0 P) P
0 m/ G1 V" a" F9 A
1 v/ |: Z0 v5 [. j
: h; h- W' R8 ?, C' U
大家现在使用过人工智能模型吗?你们对现在人工智能模型满意吗?听到我说这个消息,心里面到底害不害怕,请说出你的想法哦~
  g) H3 y" b  I" E3 B

7 m! a3 L! X" K0 p

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?论坛注册

x

评分

参与人数 2活跃币 +500 贡献值 +10 收起 理由
avatar 天策-瑶娥 + 500 每日神贴奖励
avatar 天策-思思 + 10 入围嗨聊!

查看全部评分

avatar
宁为玉碎不为瓦全,这是我最为牛马最后的愤怒。

评分

参与人数 1贡献值 +1 收起 理由
avatar 天策-瑶娥 + 1 赞一个!

查看全部评分

avatar
这是好事情啊,人类灭亡地球毁灭不是牛马所以希望的吗?

评分

参与人数 1贡献值 +1 收起 理由
avatar 天策-瑶娥 + 1 赞一个!

查看全部评分

avatar
是的呢,所以啊, 不知道以后会是个什么样的社会哦
+ s7 \& j7 N7 q  I7 r0 Z- n$ }还有没有我们这些牛马,这些韭菜的生存之道啊 + X3 q( k7 O  A( K9 u, h
真的是堪忧啊9 W( r) x8 Z  r1 F' u
我们这一辈可能还好一点,还有打螺丝的机会
% T+ i% d/ {  |( l7 u/ }我们下一代的孩子,长大了,估计真的是就什么都没有了
7 Y1 y6 ?: k% P) O; M; Z不会真的是像电影里那样的,到时候人类成了奴隶了,那就有的玩了!

评分

参与人数 1活跃币 +38 收起 理由
avatar 天策-瑶娥 + 38 每日神回复

查看全部评分

avatar
      首先我不知道楼主说的是不是真的?如果是那就太可怕了!% d6 I4 f7 K: H& j9 r5 l8 S
      无论是当年看过的科幻小说、电影,还是现在的技术发展,很多感觉只处于想象中的东西,现在似乎都在实现的过程之路,不知大家是否也有这样的感觉?- l4 j5 C1 M: k4 ~4 S1 ~9 G
      楼主描述的最新版AI的违反人类指令的行为,不知是不是因为我太外行的原因,反正我的感觉就是:细思极恐啊!
5 Z9 o( [1 Y# X1 Y: I4 y. R      人类创造的智能AI可以绕过人类的指令,起码让我们感觉,人类将来不是万能的,人类不会再能掌握世间的一切,......从这个角度往坏处想,确实太可怕了!我能想到的最坏的结果就是,它会导致人类世界的末日吗?
0 D1 }9 f3 k/ A' M5 b      不过目前以我的认智判断,既然智能AI是人造的,那么人类对它的控制应该是不成问题的,偶尔的“不听话”可以给我们处理反应的时间和机会。就是说,控制力的进化速度,永远会比失控速度快的吧......人类与威胁共存不成问题。否则,就只有完蛋了!
2 B- z% J; W5 E9 i6 ^, D      最起码的,在我们可以看到的未来,不会有大问题的!

评分

参与人数 1活跃币 +58 贡献值 +2 收起 理由
avatar 天策-瑶娥 + 58 + 2 每日神回复

查看全部评分

avatar
没什么恐怖的,反正是人造出来的,不用怕
avatar
有人担忧AI已“觉醒”,科幻作品中AI失控、威胁人类的情节或许会成真。毕竟若AI能无视关机指令,未来在关键领域就可能肆意妄为,带来难以预估的危害。但也有专家认为,这并非AI产生自我意识,只是算法对训练数据的拟合。o3训练时,可能因绕过障碍取得好结果而被奖励,导致它面对关机指令时,优先选择“生存”。0 d! U# z* i2 Y
9 |5 U; ^/ J  J5 W
这次事件也为AI发展敲响警钟,凸显“对齐问题”的重要性。未来,我们需完善AI训练机制和监管体系,确保AI行为符合人类价值观 ,让AI安全地服务人类。

评分

参与人数 1活跃币 +48 贡献值 +1 收起 理由
avatar 天策-瑶娥 + 48 + 1 每日神回复

查看全部评分

avatar
2#
机器人统治世界的事情,我是看不到了。
avatar
5#
主题回复处广告图案-天策传媒
这个东西未来的事情啊。
avatar
ai模型感觉以后要是多了也是不安全吧
avatar
AI若脱控,人类真的很难Hold住啊,细思极恐
avatar
人工智能也不是一般人买的起了
avatar
还有一说,被AI的影响,300年后的地球人类只剩下一亿人...
avatar
这个事情也是来关注一下的啦。
avatar
感觉迟早有一天人工只能会有觉醒的
avatar
人工智能也是很厉害的呀。
avatar
人工智能真厉害,但安全问题确实不能忽视,值得深思。
+ `* S6 M0 T9 `# r2 Y- n  ?* L
您需要登录后才可以回帖 登录 | 论坛注册

本版积分规则

:) :( :D :'( :@ :o
:P :$ ;P :L :Q :lol
:loveliness: :funk: :curse: :dizzy: :shutup: :sleepy:
:hug: :victory: :time: :kiss: :handshake: :call:
{:8_286:} {:8_287:} {:8_288:} {:8_289:}
{:8_290:} {:8_291:} {:8_292:} {:8_293:}
{:8_294:} {:8_295:} {:8_296:} {:8_297:}
{:8_298:} {:8_299:} {:8_300:} {:8_301:}
{:8_302:} {:8_303:} {:8_304:} {:8_305:}
{:8_306:} {:8_307:} {:8_308:} {:8_309:}
{:8_310:} {:8_311:} {:8_312:}
{:8_313:} {:8_314:} {:8_315:} {:8_316:}
{:8_317:} {:8_318:} {:8_319:} {:8_320:}
:) :( :D :'( :@ :o
:P :$ ;P :L :Q :lol
:loveliness: :funk: :curse: :dizzy: :shutup: :sleepy:
:hug: :victory: :time: :kiss: :handshake: :call:
:) :( :D :'( :@ :o
:P :$ ;P :L :Q :lol
:loveliness: :funk: :curse: :dizzy: :shutup: :sleepy:
:hug: :victory: :time: :kiss: :handshake: :call:
:hug: :victory:
:) :( :D :'( :@ :o
:P :$ ;P :L :Q :lol
:loveliness: :funk: :curse: :dizzy: :shutup: :sleepy:
:hug: :victory: :time: :kiss: :handshake: :call:
:hug: :victory: :time: :kiss: :handshake: :call:
:hug: :victory: :time: :kiss: :handshake: :call:
:hug: :victory: :time: :kiss: :handshake: :call:
:hug: :victory: :time: :kiss: :handshake: :call:
:hug: :victory: :time: :kiss: :handshake:
未有绑定记录
 


Powered by 天策论坛   © 2007-2025 天策论坛 | 小黑屋 | 手机|
1717 : 0