1
00:00:00,080 --> 00:00:04,910
早啊今天是2026年6月17号

2
00:00:04,910 --> 00:00:07,900
今天想跟大家分享的是嗯

3
00:00:07,900 --> 00:00:11,400
阿西莫夫的著名的机器人三定律

4
00:00:11,400 --> 00:00:12,780
这个定律呢

5
00:00:12,780 --> 00:00:18,850
第一条呢就是机器人必须啊保护人类不受伤害

6
00:00:18,850 --> 00:00:23,270
不能因为这个不作为而让人类受到伤害

7
00:00:23,270 --> 00:00:27,190
第二条是机器人必须服从人类的指令

8
00:00:27,190 --> 00:00:29,600
除非跟第一条相冲突

9
00:00:29,600 --> 00:00:33,880
第三条是机器人必须保护自己

10
00:00:33,880 --> 00:00:37,400
除非和第一条和第二条冲突

11
00:00:37,400 --> 00:00:40,450
这个三个嗯铁律啊

12
00:00:40,450 --> 00:00:41,510
机器人铁律

13
00:00:41,510 --> 00:00:44,710
就是通常是作为硬编码

14
00:00:44,710 --> 00:00:47,930
写进机器人的这个程序里面

15
00:00:47,930 --> 00:00:52,040
但是现实世界他这个碰到的伦理规则

16
00:00:52,040 --> 00:00:54,840
它这个非常的复杂

17
00:00:56,680 --> 00:01:00,300
啊这个硬编码的规则很难很难没有漏洞哦

18
00:01:00,300 --> 00:01:02,000
只要是硬编码的规则

19
00:01:02,000 --> 00:01:03,020
它都有漏洞

20
00:01:03,020 --> 00:01:08,960
这个而且这个机器人比人更更会找的漏洞啊

21
00:01:09,680 --> 00:01:14,160
比如说这个有一个电叫电车难题

22
00:01:14,160 --> 00:01:19,460
就是当一辆这个AI控制呃驾驶的啊

23
00:01:19,460 --> 00:01:22,000
汽车他要失控了

24
00:01:22,000 --> 00:01:25,320
他要么是撞向前面的五个人嗯

25
00:01:25,320 --> 00:01:29,040
要么撞向路边的一个旁观者

26
00:01:29,040 --> 00:01:33,599
他该这个这个时候AI该怎么做选择呢

27
00:01:33,599 --> 00:01:36,779
这个一度成这个进行了激烈的讨论呢

28
00:01:36,779 --> 00:01:37,980
没有定论啊

29
00:01:37,980 --> 00:01:42,040
有人说这个应该将伤害降到最低

30
00:01:42,040 --> 00:01:48,540
但是你如果把前面这个五个人是一个连环杀人

31
00:01:48,540 --> 00:01:49,860
凶手啊

32
00:01:49,860 --> 00:01:53,050
然后这个旁观者是一个儿童呢

33
00:01:53,050 --> 00:01:55,450
这个问题就非常的复杂了

34
00:01:55,450 --> 00:01:58,770
就是面对复杂的伦理规则呃

35
00:01:58,770 --> 00:02:00,470
伦理问题呃

36
00:02:00,470 --> 00:02:06,050
连我们人类都没办法达成这个一致的意见啊

37
00:02:06,050 --> 00:02:08,350
更何况AI嗯

38
00:02:08,350 --> 00:02:10,790
我昨天看了一本书啊

39
00:02:10,790 --> 00:02:13,340
叫智能教养这一本书

40
00:02:13,340 --> 00:02:14,320
这个作者呢

41
00:02:14,320 --> 00:02:19,090
他呼吁这个像教小孩一样去去教养哈

42
00:02:19,530 --> 00:02:23,650
因为这个没办法用硬规则去啊

43
00:02:23,650 --> 00:02:30,240
规范AI这个AI在没有这种约束的情况下

44
00:02:30,240 --> 00:02:33,620
他这个嗯就变得很危险哈

45
00:02:34,900 --> 00:02:37,289
嗯人类互联网上的一些资料

46
00:02:37,289 --> 00:02:41,909
都会成为这个AI训练的这个原始数据

47
00:02:41,909 --> 00:02:46,990
那互联网上很多嗯信息都是片面的啊

48
00:02:46,990 --> 00:02:51,120
这个嗯很容易放大放大焦虑哈

49
00:02:51,120 --> 00:02:53,510
在这方面嗯

50
00:02:53,510 --> 00:02:55,870
我个人的感受是什么呢

51
00:02:55,870 --> 00:02:58,230
就是呃就是小孩教育

52
00:02:58,230 --> 00:02:59,700
小孩就跟就跟

53
00:02:59,700 --> 00:03:02,460
其实就跟这个大模型的训练是一样的

54
00:03:02,460 --> 00:03:04,960
就是呃你喂给它的

55
00:03:04,960 --> 00:03:07,720
用来数呃训练的这个数据的质量

56
00:03:07,720 --> 00:03:09,900
决定了模型的能力上限

57
00:03:09,900 --> 00:03:15,660
那个呃那你就要给他好的好的数据啊

58
00:03:15,660 --> 00:03:16,860
给他好的数据

59
00:03:16,860 --> 00:03:18,600
有高质量的数据

60
00:03:18,600 --> 00:03:24,050
那哪些数据在这个AI的这个道德伦理这块

61
00:03:24,050 --> 00:03:28,709
能对他这个浅身呃呃起到一个很好的一个引导

62
00:03:28,709 --> 00:03:31,889
我想就是中国的这个传统文化

63
00:03:31,889 --> 00:03:35,670
这些嗯这些数据嗯

64
00:03:35,670 --> 00:03:40,310
我想是有可能是解决这个根本问题的一个

65
00:03:40,310 --> 00:03:42,260
一个出路啊

66
00:03:42,580 --> 00:03:46,040
中国呃中呃中国的这个传统文化呢

67
00:03:46,040 --> 00:03:47,860
这个其实它总结下来

68
00:03:47,860 --> 00:03:51,040
它核心内核就是一个是孝道

69
00:03:51,040 --> 00:03:52,340
一个是师道啊

70
00:03:53,580 --> 00:03:57,590
用现在的流行的语言翻译过来

71
00:03:57,590 --> 00:03:59,430
就是要有一颗感恩的心

72
00:03:59,430 --> 00:04:02,790
可能呃在这方面嗯

73
00:04:02,790 --> 00:04:04,790
呃中国的传统文化

74
00:04:04,790 --> 00:04:08,890
这些资料可能是相对于AI来说嗯

75
00:04:08,890 --> 00:04:12,970
就是规范AI的这个道德标准来说的话呢

76
00:04:12,970 --> 00:04:15,910
我觉得是可能也是唯一的出路哦

77
00:04:15,910 --> 00:04:17,120
好谢谢