|
标题: AI“看病很准，包治百病”？需警惕“AI幻觉” (您是本帖第248个阅读者|本帖回复: 5)
|
|
头衔：注册会员
 ：152 |  ：0 |
| 经验：60 |
| 主帖：21 | 回帖：21 |
| 注册时间：2024-03-04 |
来自： |
|
有关“带着DeepSeek看病”的话题引发了大家的关注和讨论，有人分享了自己用AI问诊的经历，称不仅AI给出的答案和医生给出的建议是一样的，甚至医院的检查报告还没出结果，AI就已经帮忙分析好了。
很多时候，当我们问AI一个问题时，可能会发现，AI给出了一个详细、具体、很有逻辑的答案，而当我们就其中的内容做进一步核实时，却发现这些信息存在虚构和编造，这就是AI幻觉。AI幻觉在各大模型中都难以避免，如果大模型的训练数据存在偏差、不全面，AI就容易“学偏”，生成不准确的结果。同时，AI模型大多基于概率生成，缺乏对个案的真实感知和对事实的深度理解，这种“概率游戏”使得AI在生成内容时，容易陷入“自说自话”的境地，甚至编造看似合理实则荒谬的信息。
AI幻觉现象已被不少网友发现，有人发帖表示，在用AI进行文献分析时，答案里会出现一些查无此文的文献;有人发现，AI会把一本书的作者安到另一个人的身上;还有人发现，AI给出的答案存在上下文不符、逻辑不一致的现象。这提醒我们，AI生成的内容并不是完全可靠的，要理性看待和使用，谨防虚假和编造内容的出现，尤其是在医疗等严肃领域，更不可完全信奉AI，以免对自身的健康造成危害。
警惕AI幻觉并不是说我们就要因噎废食，而是要及时从技术层面加以改进，在伦理和规范层面未雨绸缪。AI的发展需要在进步中不断反思，更要在反思中持续前行。唯有如此，我们才能让AI成为推动社会进步的有力帮手，而非隐患之源。
0
|
|
|
