转载

JAVA数据处理的常用技术

背景

在实际开发中, 数据的处理有五种:获取、 传输、 存储 分析、 转换。每种各对应一些常用的技术。

序列化和反序列化

序列化是将对象的信息转换为可传输或可存储形式的过程。反序列化就是反过来让这些可传输的、可存储的信息变回对象。

传输的序列化除了安全性的考虑,因为涉及到和第三方通信,所以还有重要的一点是可读性和不变性。而存储的链路短,可控,所以更讲究效率。

传输最常用的序列化手段是JSON这样人眼可读的。而存储会使用 protostuff 这种将key值映射成编码来传输的。因为1,2,3比one、two、four更省空间更高效。但是传输中都用编码,解析时就很难判断它的意义。双方还要进行额外的约定。本来3代表four,中间加了一个three,3代表three的话,对方没有及时被通知,那么解析传输过来的消息就是错的。

反射

Java反射是在运行时,对于任何一个类,都可以知道这个类有哪些方法和属性。对于任何一个对象,都能对它的方法和属性进行调用。

常用数据转换工具,比如Spring的RequestParam、RequestBody、ResponseBody内部就用了反射机制。还有Jackson等工具类。甚至在业务代码中直接使用反射也是很常见的。比如设计一个AI助手问答机。想实现:

小A:我要搜索美女"冰冰"

AI助手:OK,搜索"冰冰"

小A:想知道她的"年龄"

AI助手:21

上面这个JAVA实现是这样的:

Field field = 美女.class.getDeclaredField(年龄);

field.setAccessible(true);

return field.get(冰冰).toString();

动态代理

代理模式是为了提供增强的或不同的操作,而插入来替代实际对象的对象。这些操作涉及到与实际对象的通信,所以称为代理。

Spring主要的两大思想IoC和AOP。对于IoC,利用的是反射机制。而AOP使用了动态代理,当然底层也是反射。

JDK动态代理只能给有接口的类代理。本质是通过反射获取要执行的方法,并在执行前或者后加入一些代理处理操作。

cglib本质上用继承的方法实现的,是通过动态生成一个子类去覆盖所要代理的类。用final修饰的不能被覆盖的就不代理了。

spring动态代理是优先使用JDK动态代理,如果目标没有实现任何接口,则创建一个cglib代理。如果几个类实现了都实现了一个通用接口,比如Runnable,并且加了Component请spring来负责其生命周期。这时候会抛出一个Proxy代理异常。说期望加载一个Bean,实际上实现却不只一个。这时候可以在这个类上加下面标签强制使用cglib代理来解决。

@EnableAspectJAutoProxy(proxyTargetClass = true)

总结

我工作十几年来,查找和排序算法一直被奉为经典。而这两项就是搜索技术的核心。大数据是建立在搜索技术基础上的。AI又是建立在大数据基础上的。可见查找和排序的核心地位。看似高深的技术也是从最底层开始。

苦练基本功。

原文  http://mp.weixin.qq.com/s?__biz=MzUzNjAxODg4MQ==&mid=2247484928&idx=1&sn=dc3ce3b2f4c76cb712d384843e241cc8
正文到此结束
Loading...