设为首页 加入收藏

TOP

语言的数据亲和力(一)
2014-11-23 22:19:19 来源: 作者: 【 】 浏览:5
Tags:语言 数据 亲和力

目前,程序设计语言似乎进入了一个蓬勃发展的时期,java script、Perl、Python、Ruby、Groovy等一批较新的语言正越来越多地被熟悉和使用,而C++、C#、Java等主流语言也在不断地融入函数式和动态性特征。程序员的百宝箱中可供选择的宝贝是越来多了,而社区中关于语言间的比较和争论也更为热烈,我们常常见到关于“面向过程和面向对象的比较”、“动态语言和静态语言的比较”、“命令式和函数式范式的比较”等比较。我注意到这类讨论的关注点多集中于设计相关话题,如“动态语言的Duck typing多态和静态语言的继承多态的比较”,“Prototype based和Class based的比较”等。但我认为还有一个十分重要的方面值得关注,这就是数据处理。

数据处理之所以重要是因为不论是本地信息存储还是系统间信息交换都需要建立在一定的数据格式基础上。另外,不管语言属于那种范式,设计上采用什么模式,在微观层次上程序很大一部分工作都是在做数据处理。所以,从数据处理角度比较和理解语言间的差异有重要的现实意义。虽然数据通常是平台和语言无关的,但不同的语言在处理某种格式的数据时会表现出不同的难度,甚至某些数据格式只能采用特定的语言才能实现,这就是数据亲和力的不同。

语言的数据亲和力(Data Affinity)指的是语言的数据模型与某种数据格式之间的匹配程度。语言对某种数据格式亲和力越强,则操作某类数据越容易。


二进制字节块格式


在偏底层的操作系统、嵌入式和通信系统中,二进制的字节块是最常见的一种数据格式。二进制数据布局紧凑和接近机器的特点使得它常常作为系统间通信或系统文件的数据格式,但一般高级语言都不方便直接和0101打交道,而是基于记录、结构体和类等结构化表示操作数据,这就存在着在底层的二进制字节块和高层的结构化数据直接的转换问题。


C语言作为最主要的系统语言具有很高的字节块数据亲和力。这不仅因为C语言具有指针可以直接访问内存以外,还因为C的结构体(struct)可以和字节块建立起直接的映射关系。例如,在基于Socket连接的分布式系统中服务器端和客户端通过二进制的字节数据进行通信,通信双方只要事先定义共用的结构体,发送方先创建相应的结构体变量并填充字段,然后把变量对应的内存块copy到Socket,接收方从Socket读取字节块,然后把字节块强制类型转换为相应的结构体指针即可读取个字段信息。整个过程中通信的双方都没有复杂的信息编码和解码的过程。示例代码如下:

1234567891011121314151617 struct t_data { int version; char type[10]; float value; }; //发送方 struct t_data data; data.version = 1; strcpy(data.type, “degree”); data.value = 189.0; send(socket, &data, sizeof(data)); //接收方 struct t_data data; read(socket, &data, sizeof(data)); printf(“%d, %s, %f”, data.version, data.type, data.value);


上面的方法在实际应用中还需要注意内存对齐问题和大小端问题。内存对齐问题可以通过编译器预处理命令来进行控制,保证内存中struct结构与传输的字节块具有相同的对齐方式;大小端问题需要通信的双方采用同样的大小端方式,否则就需要进行转换。

C++可以完全兼容C的结构体,但C++的类(包括class和struct)中如果定义了虚函数,则会丧失结构的字节块数据亲和力,这是C++编程时需要权衡的一个因素。而除了C/C++,其他语言中则难以见到字节块数据亲和力,其原因在于C/C++允许控制结构体/对象的内存布局,并允许对指针进行非类型安全的强制类型转换,这都是在Java,C#等语言中不允许的。所以,在Java、C#中进行字节块的编码解码就只能按照协议一个字段一个字段地按偏移量和长度进行解析。C/C++的指针以及结构体和内存的直接映射带来了对字节块数据的亲和力,但同时也留下了内存访问和类型安全的隐患;而Java、C#在拥有引用安全和类型安全的同时也失去了对字节块数据的亲和力。

文本格式
文本格式是另一种十分常见的数据格式。《Unix编程艺术》中是这样描述文本格式的:”Text streams are a valuable universal format because they’re easy for human beings to read, write, and edit without specialized tools ”。基于文本流的管道处理是一种备受赞誉的Unix风格。Shell可以通过管道把各种功能单一的命令串联起来,让文本流在管道上流动,因而Shell语言具有很好的文本数据亲和力。许多文本数据处理任务Bash都可以一行搞定,这就是Hacker们酷爱的One Liner风格。


下面我们来看两个用Bash进行文本处理的例子:

1. 统计当前目录下的gz文件数目:

1 ls l *.gz | wc l


2. 在Web服务器日子service.log中统计2011年6月26和27两天中每天中各页面的PV

1 cat service.log | grep ^2011-06-2[6-7] | cut d ‘ ‘ f 1, 3 | sort | uniq c


service.log:

2011-06-25 13:00:55 /music/c.htm Safari

2011-06-26 08:01:23 /main.htm IE
2011-06-26 08:03:01 /sports/b.htm Chrome

2011-06-27 11:41:06 /main.htm IE
2011-06-27 11:52:41 /news/a.htm Firefox


输出:

210 2011-06-26 /main.htm
231 2011-06-26 /news/a.htm
155 2011-06-26 /sports/b.htm
288 2011-06-27 /main.htm
292 2011-06-27 /news/a.htm
161 2011-06-27 /sports/b.htm


上面的两个简单文本数据处理任务如果是在C或C++下实现则要麻烦得多,代码量至少是十几行或者数十行,加上编译调试,整个开发效率可能比Shell低一个数量级。除了Shell外,Perl也是以强大的文本数据处理而闻名的。我们来看一个Perl正则表达式的例子:

12345678 while () { if (/hellos(w+)/i) { print “say hello to $1“ } else if (/goodbyes(w+)/i) { print “say goodbye to $1” } }

输入:

HeLLo world

Goodbye bug

输出:

say hello to world

say goodbye to bug

上面的例子中我们看到Perl直接进行字符串匹配并进行数据提取的强大威力。Perl基于正则表达式的字符串处理不仅比C/C++等系统语言更强大,甚至比Pyt

首页 上一页 1 2 下一页 尾页 1/2/2
】【打印繁体】【投稿】【收藏】 【推荐】【举报】【评论】 【关闭】 【返回顶部
分享到: 
上一篇函数返回后的地址_游离地址空间 下一篇c 格式化输出

评论

帐  号: 密码: (新用户注册)
验 证 码:
表  情:
内  容: