关于 ChatGPT 的恶意揣度

[yumenawei]

假设 ChatGPT 的认可度越来越高，越来越智能，以后大家遇到问题会首先去问 ChatGPT 。
那如果将某些问题的答案修改为管理者喜欢的答案。
更甚者，直接输出某些极端的观点，是否有控制人的思考 /想法 /三观的可能性？

[mxT52CRuqR6o5]

别说 chatgpt 了，就算没有互联网，也可以去通过报纸做到你所说的事情

[zhlxsh]

会，前提是把其他回去信息的渠道都关掉，比如说先焚书
要不然效果就是发个假新闻，时间长了大家就不会找你问了

[mxT52CRuqR6o5]

真要说的话，在互联网时代，对于聪明人来说，如果对一个信息源的可信度有所怀疑，可以很低成本的去找其他其他信息源的信息
在报纸时代，去找其他信息源的成本可就高了

[eason1874]

有这个可能，OpenAI 创立之初就说目标是促进和开发 Friendly AI ，并且向公众开放专利和研究成果

OpenAI 母公司是盈利组织，后来又搞了个盈利子公司，利润封顶 100 倍

[yumenawei]

@zhlxsh #2
@mxT52CRuqR6o5 #3

那有没有可能出现这种情况：由于大部分人转为使用 ChatGPT ，其他渠道没有人用，进而关停，只剩 ChatGPT 。信息无从考察。

[eason1874]

#4 才发现打错了，更正：OpenAI 母公司是非盈利组织

[zfjdif]

@yumenawei

这样的话，ChatGPT 的内容从哪里来呢

[yaphets666]

当然有这种可能，但是影响不大。现在的出版物，新闻媒体等等已经在这样做了。没有分辨能力的话，很容易被洗脑

[yvescheung]

这种情况不需要恶意揣测，因为早就付诸实践了，信息茧房了解一下

[otakustay]

难道我从出生开始不就一直在被家庭、教育、媒体控制着思考 /想法 /三观吗？

[Ericcccccccc]

你要找的是不是 新闻联播.

[deorth]

你居然以为你现在的思考 /想法 /三观没被控制

[yumenawei]

@zfjdif #7 内容可以由管理员手动输入？那样可控性更高。

@yaphets666 #8 想到了媒体的力量，感觉这么说有异曲同工之妙。

[liveoppo]

@yumenawei
那有没有可能出现这种情况：由于大部分人转为使用 ChatGPT ，其他渠道没有人用，进而关停，只剩 ChatGPT 。信息无从考察。

--------------------------
担心信息闭塞的不止你一个，而是一部分人，所以其他渠道总有人用，最终会达到一个平衡状态。

[liveoppo]

担心信息闭塞的不止你一个，而是一部分人，所以其他渠道总有人用，最终会达到一个平衡状态。-----------这里仅指信息自由的环境。

[timeance]

互联网使信息茧房成为可能，OP 是担心 ai 能更加有效率的影响个人三观吗？

[yyf1234]

你们不会用 chatgpt 来看新闻看政治看时事吧？不会吧？

[Qiss]

看啥东西都要加上一些自己的思考，不能只是一味的停别人的

[rocksolid]

这不就是搜索引擎在做的么

[zooo]

别担心了
普通人担心没有用

实际是情况是，会出现各种不同的 AI ，它们在一些主观立场上态度完全不一样

至于为什么会出现，因为人类天生会产生分歧，因此不同势力集团会训练不同态度立场的 AI ，通过这些 AI 来诱导群众

[daliusu]

你说的这个，现在没有吗？尤其是墙内社交平台，我很费解

[cherryas]

你说的已经发生了,chatgpt 刚开放那几天我问了俄乌的问题 chatgpt 那回答真是绝对中立,现在再问明显是偏向美国的. (此回复拒绝对谁对谁错展开讨论)

[SunsetShimmer]

如果一个人只相信 ChatGPT 的输出，那么这个人本来就不具备判断是非的能力。
如果它反人类了，正常人看不出来吗？网友对“政治”的敏感度不够高吗？

[Hihanying]

建议了解下传播学，可能对信息媒介如何影响群体心智会有更深的理解

[mxT52CRuqR6o5]

@yumenawei
就像#14#15 说的那样，我还是比较认同的
有没有互联网真的是差别很大
在没有互联网的时代，比如我是个美国人，我信不过美国媒体，我想去看中国媒体的信息，可能相当的难。
但如果是现在，这种事情想做的话都是相当轻松的

[chitanda]

@zhlxsh 不用这样，只需要潜移默化的影响你的思维，观点，成型后你即使看到真实的信息也不会去相信的。