Performance

共105篇文章。

delphijfork 9.0

• Kernel

可以在这里下载。

和过去一样,风险自担USE AT YOUR OWN RISK!

和FreeBSD 9.0-RELEASE相比的改动:

  • 修正了一组tmpfs的bug;
  • 针对nullfs、devfs的可靠性改进;
  • 「skeljail」;
  • top(1)默认显示每个CPU的占用比例;
  • 针对powerd的多处理器支持;
  • 对IPv4流量分IP进行统计【注意,由于上锁开销,此改动会略微降低IPv4性能】;
  • 重启时设置watchdog;
  • 改善csh可用性配置;
  • 预设将共享内存绑在主存内;
  • Winbond watchdog驱动;
  • 对虚拟化环境默认不测试内存;
  • 修正NEW_PCIB导致某些硬件问题的bug;
  • 一系列ZFS相关改进;
  • 减少AHCI上下文切换开销,高负载状态可达3.8%;
  • 一组VM性能改进,提高了异步操作以及msync情形的性能;
  • 改善了NFS服务器预取的顺序读性能;
  • 等等。
参与评论

idprio和rtprio

• Kernel

记一笔,没啥特别。

Unix系统的分时调度中,nice值(通过nice(1)来控制)是管理员告诉调度器的一个参数,这个参数令内核在考虑就绪进程优先级时,根据其值适当增大或减少执行绪的动态优先级。很明显,如果采用抢占式调度,如果执行绪等待时间较长,或者由于某种原因获得了优先级奖励(例如I/O导致的等待),即使有更重要的任务需要执行,内核还是会将这个执行绪调度进来并进行执行;反之,如果执行绪使用的CPU很多(计算密集型任务,如压缩等等),即使这个执行绪进行的就是最重要的任务,它仍然可能被置入休眠状态。

在FreeBSD的及时调度(real-time scheduling)实现中,增加了32个「及时(realtime)」优先级和32个「闲时调度(idle)」优先级。用户态进程可以通过rtprio(2)或rtprio_thread(2)系统调用来为进程或线程指定这些优先级。这些优先级不会动态调整,故在抢占式调度中可以一直获得时间片,或只有在系统闲时才获得时间片。

阅读全文…(本文约824字,阅读大致需要2分钟)

netmap进 -CURRENT

• Kernel

近日,netmap已经正式进入-CURRENT(r227614)。目前联编带netmap的内核需要做下面的操作:

% cd /usr/src/sys
% patch -p0 < dev/netmap/head.diff

然后在内核联编配置中加入:

阅读全文…(本文约319字,阅读大致需要1分钟)

FreeBSD 的 InfiniBand 支持

• Kernel

现时InfiniBand硬件已经相当廉价。有些4x的InfiniBand适配器已经可以在$100以内拿到。由于InfiniBand可以提供高带宽、低延迟的数据传输,而且点对点对联不需要交换机,因此可以以十分低廉的价格满足近实时同步,或分离存储服务这样的需求。

今年年初的时候,Isilon、我厂和Panasys联合资助了FreeBSD上的InfiniBand协议栈的实现。这个实现基于OpenFabrics Alliance的OFED,对基于Mellanox芯片的多种常见的InfiniBand卡都提供了支持。这些代码目前已合并至FreeBSD的开发主线,并将随FreeBSD 9.0-RELEASE发布。

阅读全文…(本文约821字,阅读大致需要2分钟)

#lspe之Disks

• Hardware

今天去Y!参加了#lspe的一个交流会。

比较感兴趣的项目是之前了解过但仔细看过的FlashCache,这是Facebook搞的一个SSD加速模块,原理不复杂,是在文件系统下面做上一层集关联(set-associative)高速缓存,提供了LRU和FIFO两种淘汰方法。这次Mohan Srinivasan讲解的时候提到了以前公开发表的讲稿上没有的一个内容——按线程id/线程组id去做的黑白名单,并对MySQL进行了修改,令其在扫描表时不做cache。从使用的角度,这个不失为一个不错的折衷方法。

阅读全文…(本文约690字,阅读大致需要2分钟)

netmap

• Kernel

今天BAFUG活动,Luigi Rizzo(十年前提出DEVICE_POLLING概念的那哥们)带来了他在FreeBSD上新实作的netmap。

简单来说netmap实际上是提供了一种让用户程序以一致的接口直接访问网卡(收发包且zero copy)的方法。Luigi Rizzo的测试中,用以1050MHz的单核,在很普通的万兆网卡上就可以轻松达到14.8 Mpps了,每个包的开销大约是90个时钟周期。

阅读全文…(本文约707字,阅读大致需要2分钟)

针对桌面系统的一个ULE调度器tunable

• Kernel

在 /etc/sysctl.conf中加入:

kern.sched.preempt_thresh=224

然后用 /etc/rc.d/sysctl start或重启系统令其生效。

系统默认的值是80,表示只有新优先级 < 80时才允许抢占;224表示非空闲线程均可以进行抢占。这样做的结果是系统会产生更多的切换,从而改善响应时间(牺牲吞吐量)。对桌面系统来说,这种设置是很有用的。

参与评论

ZFS dedup初步测试

• Kernel

最近做一个存储的项目,顺手在家测试了一下实际数据的dedup。操作系统是FreeBSD 8.2配合一组总共大约3MB的patch来跑ZFS v28,硬件是Atom D510配合4G内存。

阅读全文…(本文约678字,阅读大致需要2分钟)

折腾了一下 neptune 上的 ZFS

• Kernel

我一直是非常反对重装系统的。从技术上说,今天的折腾并不算是重装系统,不过因为把机器上所有的数据(是的,文件系统全部都拆掉重建了)都重写了一遍,所以还是算做了一次吧。

缘起

在采购家里的路由器的时候,选择了WD的AV-25系列硬盘。我选的那款硬盘使用的是新式的AF(4KiB扇区)格式。

FreeBSD使用的主流文件系统UFS和ZFS,以及ahci(4) 驱动都直接支持4KiB扇区。但是,目前市面上的AF硬盘,为了与先前的BIOS和操作系统(主要是Windows XP)兼容,对于ATA IDENTIFY的回应,原先返回扇区尺寸的位置变成了逻辑扇区尺寸,这种做法俗称512e,即硬盘通过固件或其他方式模拟扇区尺寸为512字节,并处理相关的回写操作。

以512字节为单位进行读写时,在AF格式的硬盘上是低效的。FreeBSD的ahci(4) 驱动和对应的ada(4) 驱动会设置stripesize以反映驱动器采用的实际物理扇区尺寸,但文件系统并不直接识别这个尺寸。

对于ZFS而言,其扇区尺寸是在创建时以ashift值写死的,目前在命令行没有办法指定这个值,也不能在创建ZFS之后修改。如果修改内核令其使用GEOM的stripesize来产生ashift,对AF硬盘则会出现内核得到的ashift比先前已经存在的ashift大,从而导致ZFS无法识别的问题(如果创建ZFS时已经使用了更大的ashift则没有关系)。因此,必须想办法让ZFS在创建时就知道扇区尺寸是4KiB。

FreeBSD 5.3-RELEASE时新增了一个调试用的GEOM class——gnop。可以用它来封装其他GEOM对象,并改变扇区尺寸,方法是gnop create -S 4096 /dev/gpt/store(此处 /dev/gpt/store是一个按4K对齐的GPT分区的label)。gnop会产生一个新的设备节点,/dev/gpt/store.nop,其向系统汇报的扇区尺寸是我们指定的4096字节,而不是驱动器汇报的逻辑扇区尺寸512字节。

使用这个设备节点创建的ZFS就会采用正确的ashift值了。

使用zdb -C pool名字 可以检查ashift值:对于扇区尺寸为512字节的zpool,其ashift是9,而我们希望的ashift值是12。

gnop节点在系统重启以后会消失,但ZFS会记住ashift,因此并不会导致问题。此处也可以zpool export,gnop destroy /dev/gpt/store.nop然后再zpool import来验证。

经测试,ZFS在知道正确的扇区尺寸以后,持续写操作的性能可以提高至少一倍。

阅读全文…(本文约2662字,阅读大致需要6分钟)

对齐操作和非对齐操作

• Kernel

操作是否对齐是一个简单而容易忽略的性能(有时是可靠性)问题。对齐主要是指读写操作不产生不必要地跨越存储设备上原生存储单元的访问,这里的存储单元说的是在访问路径上的任何设备,它可以是外存,也可以是内存,甚至是CPU附近或内建的快取缓存,等等。

阅读全文…(本文约1184字,阅读大致需要3分钟)