最后更新于20180502
- 数据结构
- 常用算法
- 并发
- 操作系统
- 设计模式
- 运维 & 统计 & 技术支持
- 中间件
- 网络
- 数据库
- 搜索引擎
- 性能
- 大数据
- 安全
- 常用开源框架
- 分布式设计
- 设计思想 & 开发模式
- 项目管理
- 通用业务术语
- 技术趋势
- 政策、法规
- 架构师素质
- 团队管理
- 资讯
- 技术资源
（Toc generated by simple-php-github-toc ）
-
- 非阻塞队列：ConcurrentLinkedQueue(无界线程安全)，采用CAS机制（compareAndSwapObject原子操作）。
- 阻塞队列：ArrayBlockingQueue(有界)、LinkedBlockingQueue（无界）、DelayQueue、PriorityBlockingQueue，采用锁机制；使用 ReentrantLock 锁。
- 《java数据结构与算法之栈（Stack）设计与实现》
- 《Java Stack 类》
- 《java stack的详细实现分析》
- Stack 是线程安全的。
- 内部使用数组保存数据，不够时翻倍。
每个节点最多有两个叶子节点。
- 《完全二叉树》
- 叶节点只能出现在最下层和次下层，并且最下面一层的结点都集中在该层最左边的若干位置的二叉树。
左右两个子树的高度差的绝对值不超过1，并且左右两个子树都是一棵平衡二叉树。
二叉查找树（Binary Search Tree），也称有序二叉树（ordered binary tree）,排序二叉树（sorted binary tree）。
- 《最容易懂得红黑树》
- 添加阶段后，左旋或者右旋从而再次达到平衡。
- 《浅谈算法和数据结构: 九 平衡查找树之红黑树》
MySQL是基于B+树聚集索引组织表
- 《B-树，B+树，B*树详解》
- 《B-树，B+树与B*树的优缺点比较》
- B+ 树的叶子节点链表结构相比于 B- 树便于扫库，和范围检索。
LSM（Log-Structured Merge-Trees）和 B+ 树相比，是牺牲了部分读的性能来换取写的性能(通过批量写入)，实现读写之间的。 Hbase、LevelDB、Tair（Long DB）、nessDB 采用 LSM 树的结构。LSM可以快速建立索引。
-
- B+ 树读性能好，但由于需要有序结构，当key比较分散时，磁盘寻道频繁，造成写性能。
- LSM 是将一个大树拆分成N棵小树，先写到内存（无寻道问题，性能高），在内存中构建一颗有序小树（有序树），随着小树越来越大，内存的小树会flush到磁盘上。当读时，由于不知道数据在哪棵小树上，因此必须遍历（二分查找）所有的小树，但在每颗小树内部数据是有序的。
-
《LSM树（Log-Structured Merge Tree）存储引擎》
- 极端的说，基于LSM树实现的HBase的写性能比MySQL高了一个数量级，读性能低了一个数量级。
- 优化方式：Bloom filter 替代二分查找；compact 小数位大树，提高查询性能。
- Hbase 中，内存中达到一定阈值后，整体flush到磁盘上、形成一个文件（B+数），HDFS不支持update操作，所以Hbase做整体flush而不是merge update。flush到磁盘上的小树，定期会合并成一个大树。
经常用于大规模数据的排重检查。
- 《Java中的经典算法之选择排序（SelectionSort）》
- 每一趟从待排序的记录中选出最小的元素，顺序放在已排好序的序列最后，直到全部记录排序完毕。
- 《冒泡排序的2种写法》
- 相邻元素前后交换、把最大的排到最后。
- 时间复杂度 O(n²)
- 《坐在马桶上看算法：快速排序》
- 一侧比另外一次都大或小。
- 《图解排序算法(四)之归并排序》
- 分而治之，分成小份排序，在合并(重建一个新空间进行复制)。
TODO
- 《图解排序算法(三)之堆排序》
- 排序过程就是构建最大堆的过程，最大堆：每个结点的值都大于或等于其左右孩子结点的值，堆顶元素是最大值。
- 《计数排序和桶排序》
- 和桶排序过程比较像，差别在于桶的数量。
- 《【啊哈！算法】最快最简单的排序——桶排序》
- 《排序算法（三）：计数排序与桶排序》
- 桶排序将[0,1)区间划分为n个相同的大小的子区间，这些子区间被称为桶。
- 每个通单独进行排序，然后再遍历每个桶。
按照个位、十位、百位、...依次来排。
-
- 要求待查找的序列有序。
- 时间复杂度 O(logN)。
-
- while + 递归。
- 《Arrays.sort和Collections.sort实现原理解析》
- Collections.sort算法调用的是合并排序。
- Arrays.sort() 采用了2种排序算法 -- 基本类型数据使用快速排序法，对象数组使用归并排序。
常用于大数据的排重，比如email，url 等。 核心原理：将每条数据通过计算产生一个指纹（一个字节或多个字节，但一定比原始数据要少很多），其中每一位都是通过随机计算获得，在将指纹映射到一个大的按位存储的空间中。注意：会有一定的错误率。 优点：空间和时间效率都很高。 缺点：随着存入的元素数量增加，误算率随之增加。
- 《布隆过滤器 -- 空间效率很高的数据结构》
- 《大量数据去重：Bitmap和布隆过滤器(Bloom Filter)》
- 《基于Redis的布隆过滤器的实现》
- 基于 Redis 的 Bitmap 数据结构。
- 《网络爬虫：URL去重策略之布隆过滤器(BloomFilter)的使用》
- 使用Java中的 BitSet 类 和 加权和hash算法。
KMP：Knuth-Morris-Pratt算法（简称KMP） 核心原理是利用一个“部分匹配表”，跳过已经匹配过的元素。
-
- P(B|A)=P(A|B)P(B)/P(A)
-
未提交读：一个事务可以读取另一个未提交的数据，容易出现脏读的情况。
-
读提交：一个事务等另外一个事务提交之后才可以读取数据，但会出现不可重复读的情况（多次读取的数据不一致），读取过程中出现UPDATE操作，会多。（大多数数据库默认级别是RC，比如SQL Server，Oracle），读取的时候不可以修改。
-
可重复读： 同一个事务里确保每次读取的时候，获得的是同样的数据，但不保障原始数据被其他事务更新（幻读），Mysql InnoDB 就是这个级别。
-
序列化：所有事物串行处理（牺牲了效率）
-
- 幻读的例子非常清楚。
- 通过 SELECT ... FOR UPDATE 解决。
-
- 图解脏读、不可重复读、幻读问题。
-
- innodb 中 MVCC 用在 Repeatable-Read 隔离级别。
- MVCC 会产生幻读问题（更新时异常。）
-
- 通过隐藏版本列来实现 MVCC 控制，一列记录创建时间、一列记录删除时间，这里的时间
- 每次只操作比当前版本小（或等于）的 行。
-
- 主要包括 synchronized、ReentrantLock、和 ReadWriteLock。
-
- 有数量控制
- 申请用 acquire，申请不要则阻塞；释放用 release。
-
- 简单的说 就是Mutex是排它的，只有一个可以获取到资源， Semaphore也具有排它性，但可以定义多个可以获取的资源的对象。
公平锁的作用就是严格按照线程启动的顺序来执行的，不允许其他线程插队执行的；而非公平锁是允许插队的。
- 《公平锁与非公平锁》
- 默认情况下 ReentrantLock 和 synchronized 都是非公平锁。ReentrantLock 可以设置成公平锁。
悲观锁如果使用不当（锁的条数过多），会引起服务大面积等待。推荐优先使用乐观锁+重试。
-
- 乐观锁的方式：版本号+重试方式
- 悲观锁：通过 select ... for update 进行行锁(不可读、不可写，share 锁可读不可写)。
-
《Mysql查询语句使用select.. for update导致的数据库死锁分析》
- mysql的innodb存储引擎实务锁虽然是锁行，但它内部是锁索引的。
- 锁相同数据的不同索引条件可能会引起死锁。
- 《乐观锁的一种实现方式——CAS》
- 和MySQL乐观锁方式相似，只不过是通过和原值进行比较。
由于高并发，在CAS下，更新后可能此A非彼A。通过版本号可以解决，类似于上文Mysql 中提到的的乐观锁。
- 《Java CAS 和ABA问题》
- 《Java 中 ABA问题及避免》
- AtomicStampedReference 和 AtomicStampedReference。
可以对CopyOnWrite容器进行并发的读，而不需要加锁。CopyOnWrite并发容器用于读多写少的并发场景。比如白名单，黑名单，商品类目的访问和更新场景，不适合需要数据强一致性的场景。
-
《JAVA中写时复制(Copy-On-Write)Map实现》
- 实现读写分离，读取发生在原始数据上，写入发生在副本上。
- 不用加锁，通过最终一致实现一致性。
-
- 通过简单代码举例说明可重入锁和不可重入锁。
- 可重入锁指同一个线程可以再次获得之前已经获得的锁。
- 可重入锁可以用户避免死锁。
- Java中的可重入锁：synchronized 和 java.util.concurrent.locks.ReentrantLock
-
《ReenTrantLock可重入锁（和synchronized的区别）总结》
- synchronized 使用方便，编译器来加锁，是非公平锁。
- ReenTrantLock 使用灵活，锁的公平性可以定制。
- 相同加锁场景下，推荐使用 synchronized。
互斥锁：同时只能有一个线程获得锁。比如，ReentrantLock 是互斥锁，ReadWriteLock 中的写锁是互斥锁。 共享锁：可以有多个线程同时或的锁。比如，Semaphore、CountDownLatch 是共享锁，ReadWriteLock 中的读锁是共享锁。
-
- 互斥、持有、不可剥夺、不可剥夺。
-
- JConsole 可以识别死锁。
-
- jstack 可以显示死锁。
典型的 CPU 有三级缓存，举例核心越近，速度越快，空间越小。L1 一般 32k，L2 一般 256k，L3 一般12M。内存速度需要200个 CPU 周期，CPU 缓存需要1个CPU周期。
TODO
- 《终结python协程----从yield到actor模型的实现》
- 线程的调度是由操作系统负责，协程调度是程序自行负责
- 与线程相比，协程减少了无畏的操作系统切换.
- 实际上当遇到IO操作时做切换才更有意义，（因为IO操作不用占用CPU），如果没遇到IO操作，按照时间片切换.
- 《设计模式的六大原则》
- 开闭原则：对扩展开放,对修改关闭，多使用抽象类和接口。
- 里氏代换原则：基类可以被子类替换，使用抽象类继承,不使用具体类继承。
- 依赖倒转原则：要依赖于抽象,不要依赖于具体，针对接口编程,不针对实现编程。
- 接口隔离原则：使用多个隔离的接口,比使用单个接口好，建立最小的接口。
- 迪米特法则：一个软件实体应当尽可能少地与其他实体发生相互作用，通过中间类建立联系。
- 合成复用原则：尽量使用合成/聚合,而不是使用继承，尽量使用合成/聚合,而不是使用继承。
-
-
结构型模式：
- 适配器：用来把一个接口转化成另一个接口，如 java.util.Arrays#asList()。
- 桥接模式：这个模式将抽象和抽象操作的实现进行了解耦，这样使得抽象和实现可以独立地变化，如JDBC；
- 组合模式：使得客户端看来单个对象和对象的组合是同等的。换句话说，某个类型的方法同时也接受自身类型作为参数，如 Map.putAll，List.addAll、Set.addAll。
- 装饰者模式：动态的给一个对象附加额外的功能，这也是子类的一种替代方式，如 java.util.Collections#checkedList|Map|Set|SortedSet|SortedMap。
- 享元模式：使用缓存来加速大量小对象的访问时间，如 valueOf(int)。
- 代理模式：代理模式是用一个简单的对象来代替一个复杂的或者创建耗时的对象，如 java.lang.reflect.Proxy
-
创建模式:
- 抽象工厂模式：抽象工厂模式提供了一个协议来生成一系列的相关或者独立的对象，而不用指定具体对象的类型，如 java.util.Calendar#getInstance()。
- 建造模式(Builder)：定义了一个新的类来构建另一个类的实例，以简化复杂对象的创建，如：java.lang.StringBuilder#append()。
- 工厂方法：就是 一个返* 回具体对象的方法，而不是多个，如 java.lang.Object#toString()、java.lang.Class#newInstance()。
- 原型模式：使得类的实例能够生成自身的拷贝、如：java.lang.Object#clone()。
- 单例模式：全局只有一个实例，如 java.lang.Runtime#getRuntime()。
-
行为模式：
- 责任链模式：通过把请求从一个对象传递到链条中下一个对象的方式，直到请求被处理完毕，以实现对象间的解耦。如 javax.servlet.Filter#doFilter()。
- 命令模式：将操作封装到对象内，以便存储，传递和返回，如：java.lang.Runnable。
- 解释器模式：定义了一个语言的语法，然后解析相应语法的语句，如，java.text.Format，java.text.Normalizer。
- 迭代器模式：提供一个一致的方法来顺序访问集合中的对象，如 java.util.Iterator。
- 中介者模式：通过使用一个中间对象来进行消息分发以及减少类之间的直接依赖，java.lang.reflect.Method#invoke()。
- 空对象模式：如 java.util.Collections#emptyList()。
- 观察者模式：它使得一个对象可以灵活的将消息发送给感兴趣的对象，如 java.util.EventListener。
- 模板方法模式：让子类可以重写方法的一部分，而不是整个重写，如 java.util.Collections#sort()。
-
TODO
- 《MVC 模式》
- 模型(model)－视图(view)－控制器(controller)
- 《理解 IOC》
- 《IOC 的理解与解释》
- 正向控制：传统通过new的方式。反向控制，通过容器注入对象。
- 作用：用于模块解耦。
- DI：Dependency Injection，即依赖注入，只关心资源使用，不关心资源来源。
- 《轻松理解AOP(面向切面编程)》
- 《Spring AOP详解》
- 《Spring AOP的实现原理》
- Spring AOP使用的动态代理，主要有两种方式：JDK动态代理和CGLIB动态代理。
- 《Spring AOP 实现原理与 CGLIB 应用》
- Spring AOP 框架对 AOP 代理类的处理原则是：如果目标对象的实现类实现了接口，Spring AOP 将会采用 JDK 动态代理来生成 AOP 代理类；如果目标对象的实现类没有实现接口，Spring AOP 将会采用 CGLIB 来生成 AOP 代理类
-
- 定律一：组织沟通方式会通过系统设计表达出来，就是说架构的布局和组织结构会有相似。
- 定律二：时间再多一件事情也不可能做的完美，但总有时间做完一件事情。一口气吃不成胖子，先搞定能搞定的。
- 定律三：线型系统和线型组织架构间有潜在的异质同态特性。种瓜得瓜，做独立自治的子系统减少沟通成本。
- 定律四：大的系统组织总是比小系统更倾向于分解。合久必分，分而治之。
-
- 监控的方式：主动、被动、旁路(比如舆情监控)
- 监控类型： 基础监控、服务端监控、客户端监控、 监控、用户端监控
- 监控的目标：全、块、准
- 核心指标：请求量、成功率、耗时
-
- Zabbix、Nagios、Ganglia、Zenoss、Open-falcon、监控宝、 360网站服务监控、阿里云监控、百度云观测、小蜜蜂网站监测等。
命令行监控工具
-
- top、sar、tsar、nload
APM — Application Performance Management
-
主要开源软件，按字母排序
-
- 主要基于 Google的Dapper（大规模分布式系统的跟踪系统） 思想。
-
- 常用指标：访问与访客、停留时长、跳出率、退出率、转化率、参与度
-
- 第三方统计：友盟、百度移动、魔方、App Annie、talking data、神策数据等。
-
- 所谓无痕、即通过可视化工具配置采集节点，在前端自动解析配置并上报埋点数据，而非硬编码。
开发、测试、生成环境分离。
- 《深度解读 - TDD（测试驱动开发）》
- 基于测试用例编码功能代码，XP（Extreme Programming）的核心实践.
- 好处：一次关注一个点，降低思维负担；迎接需求变化或改善代码的设计；提前澄清需求；快速反馈；
- 《Java单元测试之JUnit篇》
- 《JUnit 4 与 TestNG 对比》
- TestNG 覆盖 JUnit 功能，适用于更复杂的场景。
- 《单元测试主要的测试功能点》
- 模块接口测试、局部数据结构测试、路径测试 、错误处理测试、边界条件测试 。
- Confluence-收费文档管理系统
- GitLab?
- Wiki
-
- Nginx 通过异步非阻塞的事件处理机制实现高并发。Apache 每个请求独占一个线程，非常消耗系统资源。
- 事件驱动适合于IO密集型服务(Nginx)，多进程或线程适合于CPU密集型服务(Apache)，所以Nginx适合做反向代理，而非web服务器使用。
-
- nginx只适合静态和反向代理，不适合处理动态请求。
- 官方网站
- 《浅谈 OpenResty》
- 通过 Lua 模块可以在Nginx上进行开发。
-
《JBoss vs. Tomcat: Choosing A Java Application Server》
- Tomcat 是轻量级的 Serverlet 容器，没有实现全部 JEE 特性（比如持久化和事务处理），但可以通过其他组件代替，比如Srping。
- Jboss 实现全部了JEE特性，软件开源免费、文档收费。
-
- 启动NIO模式（或者APR）；调整线程池；禁用AJP连接器（Nginx+tomcat的架构，不需要AJP）；
-
- AJP 协议（8009端口）用于降低和前端Server（如Apache，而且需要支持AJP协议）的连接数(前端)，通过长连接提高性能。
- 并发高时，AJP协议优于HTTP协议。
- 《Jetty 的工作原理以及与 Tomcat 的比较》
- 《jetty和tomcat优势比较》
- 架构比较:Jetty的架构比Tomcat的更为简单。
- 性能比较：Jetty和Tomcat性能方面差异不大，Jetty默认采用NIO结束在处理I/O请求上更占优势，Tomcat默认采用BIO处理I/O请求，Tomcat适合处理少数非常繁忙的链接，处理静态资源时性能较差。
- 其他方面：Jetty的应用更加快速，修改简单，对新的Servlet规范的支持较好;Tomcat 对JEE和Servlet 支持更加全面。
-
- 堆内、堆外、磁盘三级缓存。
- 可按照缓存空间容量进行设置。
- 按照时间、次数等过期策略。
-
- 简单轻量、无堆外、磁盘缓存。
-
- 主要是利用 Cache-Control 参数。
-
- 采用多路复用技术提高并发性。
- slab分配算法： memcached给Slab分配内存空间，默认是1MB。分配给Slab之后 把slab的切分成大小相同的chunk，Chunk是用于缓存记录的内存空间，Chunk 的大小默认按照1.25倍的速度递增。好处是不会频繁申请内存，提高IO效率，坏处是会有一定的内存浪费。
-
《memcache 中 add 、 set 、replace 的区别》
- 区别在于当key存在还是不存在时，返回值是true和false的。
-
- 使用 ziplist 存储链表，ziplist是一种压缩链表，它的好处是更能节省内存空间，因为它所存储的内容都是在连续的内存区域当中的。
- 使用 skiplist(跳跃表)来存储有序集合对象、查找上先从高Level查起、时间复杂度和红黑树相当，实现容易，无锁、并发性好。
-
- RDB方式：定期备份快照，常用于灾难恢复。优点：通过fork出的进程进行备份，不影响主进程、RDB 在恢复大数据集时的速度比 AOF 的恢复速度要快。缺点：会丢数据。
- AOF方式：保存操作日志方式。优点：恢复时数据丢失少，缺点：文件大，回复慢。
- 也可以两者结合使用。
- 官方网站
- 《Tair和Redis的对比》
- 特点：可以配置备份节点数目，通过异步同步到备份节点
- 一致性Hash算法。
- 架构：和Hadoop 的设计思想类似，有Configserver，DataServer，Configserver 通过心跳来检测，Configserver也有主备关系。
几种存储引擎:
- MDB，完全内存性，可以用来存储Session等数据。
- Rdb（类似于Redis），轻量化，去除了aof之类的操作，支持Restfull操作
- LDB（LevelDB存储引擎），持久化存储，LDB 作为rdb的持久化，google实现，比较高效，理论基础是LSM(Log-Structured-Merge Tree)算法，现在内存中修改数据，达到一定量时（和内存汇总的旧数据一同写入磁盘）再写入磁盘，存储更加高效，县比喻Hash算法。
- Tair采用共享内存来存储数据，如果服务挂掉（非服务器），重启服务之后，数据亦然还在。
-
《消息队列-推/拉模式学习 & ActiveMQ及JMS学习》
- RabbitMQ 消费者默认是推模式（也支持拉模式）。
- Kafka 默认是拉模式。
- Push方式：优点是可以尽可能快地将消息发送给消费者，缺点是如果消费者处理能力跟不上，消费者的缓冲区可能会溢出。
- Pull方式：优点是消费端可以按处理能力进行拉去，缺点是会增加消息延迟。
消息总线相当于在消息队列之上做了一层封装，统一入口，统一管控、简化接入成本。
支持事务，推拉模式都是支持、适合需要可靠性消息传输的场景。
Java实现，推拉模式都是支持，吞吐量逊于Kafka。可以保证消息顺序。
纯Java实现，兼容JMS，可以内嵌于Java应用中。
高吞吐量、采用拉模式。适合搞IO场景，比如日志同步。
生产者、消费者模式完全是客户端行为，list 和 拉模式实现，阻塞等待采用 blpop 指令。
TODO
-
- fork 进程 + sleep 轮询
-
- 定时调度在 QuartzSchedulerThread 代码中，while()无限循环，每次循环取出时间将到的trigger，触发对应的job，直到调度器线程被关闭。
-
- opencron、LTS、XXL-JOB、Elastic-Job、Uncode-Schedule、Antares
-
- Quartz集群中，独立的Quartz节点并不与另一其的节点或是管理节点通信，而是通过相同的数据库表来感知到另一Quartz应用的
-
- 核心角色：Server: 暴露服务的服务提供方、Client: 调用远程服务的服务消费方、Registry: 服务注册与发现的注册中心。
** SPI ** TODO
- 官方网站
- 《Thrift RPC详解》
- 支持多语言，通过中间语言定义接口。
服务端可以认证加密，在外网环境下，可以保证数据安全。
-
- Spring Boot 和 Spring Cloud
- 支持推、拉模式更新配置
- 支持多种语言
servlet 3.0 异步特性可用于配置中心的客户端
主要职责：请求转发、安全认证、协议转换、容灾。
- 《HTTP 2.0 原理详细分析》
- 《HTTP2.0的基本单位为二进制帧》
- 利用二进制帧负责传输。
- 多路复用。
-
- 使用非对称加密协商加密算法
- 使用对称加密方式传输数据
- 使用第三方机构签发的证书，来加密公钥，用于公钥的安全传输、防止被中间人串改。
-
《web优化必须了解的原理之I/o的五种模型和web的三种工作模式》
- 五种I/O模型：阻塞I/O，非阻塞I/O，I/O复用、事件(信号)驱动I/O、异步I/O，前四种I/O属于同步操作，I/O的第一阶段不同、第二阶段相同，最后的一种则属于异步操作。
- 三种 Web Server 工作方式：Prefork(多进程)、Worker方式(线程方式)、Event方式。
-
- select，poll，epoll本质上都是同步I/O，因为他们都需要在读写事件就绪后自己负责进行读写，也就是说这个读写过程是阻塞的。
- select 有打开文件描述符数量限制，默认1024（2048 for x64），100万并发，就要用1000个进程、切换开销大；poll采用链表结构，没有数量限制。
- select，poll “醒着”的时候要遍历整个fd集合，而epoll在“醒着”的时候只要判断一下就绪链表是否为空就行了，通过回调机制节省大量CPU时间；select，poll每次调用都要把fd集合从用户态往内核态拷贝一次，而epoll只要一次拷贝。
- poll会随着并发增加，性能逐渐下降，epoll采用红黑树结构，性能稳定，不会随着连接数增加而降低。
-
- 在连接数少并且连接都十分活跃的情况下，select和poll的性能可能比epoll好，毕竟epoll的通知机制需要很多函数回调。
-
- NIO 是一种同步非阻塞的 IO 模型。同步是指线程不断轮询 IO 事件是否就绪，非阻塞是指线程在等待 IO 的时候，可以同时做其他任务
- 《Netty原理剖析》
- Reactor 模式介绍。
- Netty 是 Reactor 模式的一种实现。
- 《对于 Netty ByteBuf 的零拷贝(Zero Copy) 的理解》
- 多个物理分离的buffer，通过逻辑上合并成为一个，从而避免了数据在内存之间的拷贝。
- 《Hessian原理分析》 Binary-RPC;不仅仅是序列化
-
《Protobuf协议的Java应用例子》 Goolge出品、占用空间和效率完胜其他序列化类库，如Hessian；需要编写 .proto 文件。
-
- 关于协议的解释；缺点：可读性差;
-
- protostuff 的好处是不用写 .proto 文件，Java 对象直接就可以序列化。
- 《数据库的三大范式以及五大约束》
- 第一范式：数据表中的每一列（每个字段）必须是不可拆分的最小单元，也就是确保每一列的原子性；
- 第二范式（2NF）：满足1NF后，要求表中的所有列，都必须依赖于主键，而不能有任何一列与主键没有关系，也就是说一个表只描述一件事情；
- 第三范式：必须先满足第二范式（2NF），要求：表中的每一列只与主键直接相关而不是间接相关，（表中的每一列只能依赖于主键）；
-
- 两种类型最主要的差别就是Innodb 支持事务处理与外键和行级锁
-
- 原则上就是缩小扫描范围。
MyISAM 是非聚集，InnoDB 是聚集
- MongoDB 教程
- 《Mongodb相对于关系型数据库的优缺点》
- 优点：弱一致性（最终一致），更能保证用户的访问速度；内置GridFS，支持大容量的存储；Schema-less 数据库，不用预先定义结构；内置Sharding；相比于其他NoSQL，第三方支持丰富；性能优越；
- 缺点：mongodb不支持事务操作；mongodb占用空间过大；MongoDB没有如MySQL那样成熟的维护工具，这对于开发和IT运营都是个值得注意的地方；
-
- 空数据不存储，节省空间，且适用于并发。
-
- rowkey 按照字典顺序排列，便于批量扫描。
- 通过散列可以避免热点。
-
- 代码层面、业务层面、数据库层面、服务器层面、前端优化。
例如：
- 广告相关实时统计；
- 推荐系统用户画像标签实时更新；
- 线上服务健康状况实时监测；
- 实时榜单；
- 实时数据统计。
- 《邪恶的JAVA HASH DOS攻击》
- 利用JsonObjet 上传大Json，JsonObject 底层使用HashMap；不同的数据产生相同的hash值，使得构建Hash速度变慢，耗尽CPU。
- 《一种高级的DoS攻击-Hash碰撞攻击》
- 《关于Hash Collision DoS漏洞：解析与解决方案》
-
- 滑动验证码是根据人在滑动滑块的响应时间，拖拽速度，时间，位置，轨迹，重试次数等来评估风险。
- 用户密码非明文保存，加动态slat。
- 身份证号，手机号如果要显示，用 “*” 替代部分字符。
- 联系方式在的显示与否由用户自己控制。
- TODO
- 《常见对称加密算法》
- DES、3DES、Blowfish、AES
- DES 采用 56位秘钥，Blowfish 采用1到448位变长秘钥，AES 128，192和256位长度的秘钥。
- DES 秘钥太短（只有56位）算法目前已经被 AES 取代，并且 AES 有硬件加速，性能很好。
-
- MD5 和 SHA-1 已经不再安全，已被弃用。
- 目前 SHA-256 是比较安全的。
- 《常见非对称加密算法》
-
RSA、DSA、ECDSA(螺旋曲线加密算法)
-
和 RSA 不同的是 DSA 仅能用于数字签名，不能进行数据加密解密，其安全性和RSA相当，但其性能要比RSA快。
-
256位的ECC秘钥的安全性等同于3072位的RSA秘钥。
-
TODO
TODO
在内外环境中通过跳板机登录到线上主机。
2FA - Two-factor authentication，用于加强登录验证
常用做法是 登录密码 + 手机验证码（或者令牌Key，类似于与网银的 USB key）
- 【《双因素认证（2FA）教程》】(http://www.ruanyifeng.com/blog/2017/11/2fa-tutorial.html)
- 《log4j 详细讲解》
- 《log4j2 实际使用详解》
- 《Log4j1,Logback以及Log4j2性能测试对比》
- Log4J 异步日志性能优异。
- 《ORM框架使用优缺点》
- 主要目的是为了提高开发效率。
MyBatis：
-
- 一级缓存是SqlSession级别的缓存，缓存的数据只在SqlSession内有效
- 二级缓存是mapper级别的缓存，同一个namespace公用这一个缓存，所以对SqlSession是共享的；使用 LRU 机制清理缓存，通过 cacheEnabled 参数开启。
TODO
Spring
Spring Boot
Spring Cloud
-
- 总结下来，通用的套路就是分布、缓存及异步处理。
-
- 水平切分+垂直切分
- 利用中间件进行分片如，MySQL Proxy。
- 利用分片策略进行切分，如按照ID取模。
-
- 分布式服务+消息队列。
-
- 可扩展：水平扩展、垂直扩展。 通过冗余部署，避免单点故障。
- 隔离：避免单一业务占用全部资源。避免业务之间的相互影响 2. 机房隔离避免单点故障。
- 解耦：降低维护成本，降低耦合风险。减少依赖，减少相互间的影响。
- 限流：滑动窗口计数法、漏桶算法、令牌桶算法等算法。遇到突发流量时，保证系统稳定。
- 降级：紧急情况下释放非核心功能的资源。牺牲非核心业务，保证核心业务的高可用。
- 熔断：异常情况超出阈值进入熔断状态，快速失败。减少不稳定的外部依赖对核心服务的影响。
- 自动化测试：通过完善的测试，减少发布引起的故障。
- 灰度发布：灰度发布是速度与安全性作为妥协，能够有效减少发布故障。
-
- 设计原则：数据不丢(持久化)；服务高可用(服务副本)；绝对的100%高可用很难，目标是做到尽可能多的9，如99.999%（全年累计只有5分钟）。
-
- 主要是和F5对比。
-
《几种负载均衡算法》 轮寻、权重、负载、最少连接、QoS
-
- 配置简单，更新速度慢。
-
- 简单轻量、学习成本低；主要适用于web应用。
-
- 配置比较负载、只支持到4层，性能较高。
-
- 支持到七层（比如HTTP）、功能比较全面，性能也不错。
-
《Haproxy+Keepalived+MySQL实现读均衡负载》
- 主要是用户读请求的负载均衡。
- 《谈谈高并发系统的限流》
- 计数器：通过滑动窗口计数器，控制单位时间内的请求次数，简单粗暴。
- 漏桶算法：固定容量的漏桶，漏桶满了就丢弃请求，比较常用。
- 令牌桶算法：固定容量的令牌桶，按照一定速率添加令牌，处理请求前需要拿到令牌，拿不到令牌则丢弃请求，或进入丢队列，可以通过控制添加令牌的速率，来控制整体速度。Guava 中的 RateLimiter 是令牌桶的实现。
- Nginx 限流：通过
limit_req等模块限制并发连接数。
-
- 雪崩效应原因：硬件故障、硬件故障、程序Bug、重试加大流量、用户大量请求。
- 雪崩的对策：限流、改进缓存模式(缓存预加载、同步调用改异步)、自动扩容、降级。
- Hystrix设计原则：
- 资源隔离：Hystrix通过将每个依赖服务分配独立的线程池进行资源隔离, 从而避免服务雪崩。
- 熔断开关：服务的健康状况 = 请求失败数 / 请求总数，通过阈值设定和滑动窗口控制开关。
- 命令模式：通过继承 HystrixCommand 来包装服务调用逻辑。
-
- 主要策略：失效瞬间：单机使用锁；使用分布式锁；不过期；
- 热点数据：热点数据单独存储；使用本地缓存；分成多个子key；
-
- 通过自研中间件进行数据同步。
-
- 注意延迟问题，多次跨机房调用会将延时放大数倍。
- 建房间专线很大概率会出现问题，做好运维和程序层面的容错。
- 不能依赖于程序端数据双写，要有自动同步方案。
- 数据永不在高延迟和较差网络质量下，考虑同步质量问题。
- 核心业务和次要业务分而治之，甚至只考虑核心业务。
- 异地多活监控部署、测试也要跟上。
- 业务允许的情况下考虑用户分区，尤其是游戏、邮箱业务。
- 控制跨机房消息体大小，越小越好。
- 考虑使用docker容器虚拟化技术，提高动态调度能力。
- 《依赖治理、灰度发布、故障演练，阿里电商故障演练系统的设计与实战经验》
- 常见故障画像
- 案例：预案有效性、预案有效性、故障复现、架构容灾测试、参数调优、参数调优、故障突袭、联合演练。
-
平滑重启应用思路 1.端流量（如vip层）、2. flush 数据(如果有)、3, 重启应用
-
《JVM安全退出（如何优雅的关闭java服务）》 推荐推出方式：System.exit，Kill SIGTERM；不推荐 kill-9；用 Runtime.addShutdownHook 注册钩子。
-
《常见Java应用如何优雅关闭》 Java、Srping、Dubbo 优雅关闭方式。
-
《DRBD+Heartbeat+Mysql高可用读写分离架构》
- DRDB 进行磁盘复制，避免单点问题。
-
- 中间件： 轻量级：sharding-jdbc、TSharding；重量级：Atlas、MyCAT、Vitess等。
- 问题：事务、Join、迁移、扩容、ID、分页等。
- 事务补偿：对数据进行对帐检查;基于日志进行比对;定期同标准数据来源进行同步等。
- 分库策略：数值范围；取模；日期等。
- 分库数量：通常 MySQL 单库 5千万条、Oracle 单库一亿条需要分库。
-
- 分区：是MySQL内部机制，对客户端透明，数据存储在不同文件中，表面上看是同一个表。
- 分表：物理上创建不同的表、客户端需要管理分表路由。
-
- 客户端服务发现模式：客户端直接查询注册表，同时自己负责负载均衡。Eureka 采用这种方式。
- 服务器端服务发现模式：客户端通过负载均衡查询服务实例。
-
《SpringCloud服务注册中心比较:Consul vs Zookeeper vs Etcd vs Eureka》
- CAP支持：Consul（CA）、zookeeper（cp）、etcd（cp） 、euerka（ap）
- 作者认为目前 Consul 对 Spring cloud 的支持比较好。
-
- 优点：API简单、Pinterest，Airbnb 在用、多语言、通过watcher机制来实现配置PUSH，能快速响应配置变化。
- 《分布式服务框架学习笔记4 服务路由》
- 原则：透明化路由
- 负载均衡策略：随机、轮询、服务调用延迟、一致性哈希、粘滞连接
- 本地路由有限策略：injvm(优先调用jvm内部的服务)，innative(优先使用相同物理机的服务),原则上找距离最近的服务。
- 配置方式：统一注册表；本地配置；动态下发。
- 《从分布式一致性谈到CAP理论、BASE理论》
- 一致性分类：强一致(立即一致)；弱一致(可在单位时间内实现一致，比如秒级)；最终一致(弱一致的一种，一定时间内最终一致)
- CAP：一致性、可用性、分区容错性(网络故障引起)
- BASE：Basically Available（基本可用）、Soft state（软状态）和Eventually consistent（最终一致性）
- BASE理论的核心思想是：即使无法做到强一致性，但每个应用都可以根据自身业务特点，采用适当的方式来使系统达到最终一致性。
-
- 基于数据库的分布式锁：优点：操作简单、容易理解。缺点：存在单点问题、数据库性能够开销较大、不可重入；
- 基于缓存的分布式锁：优点：非阻塞、性能好。缺点：操作不好容易造成锁无法释放的情况。
- Zookeeper 分布式锁：通过有序临时节点实现锁机制，自己对应的节点需要最小，则被认为是获得了锁。优点：集群可以透明解决单点问题，避免锁不被释放问题，同时锁可以重入。缺点：性能不如缓存方式，吞吐量会随着zk集群规模变大而下降。
-
- 清楚的原理描述 + Java 代码示例。
-
- 基于 setnx(set if ont exists)，有则返回false，否则返回true。并支持过期时间。
-
- 利用 memcached 的 add（有别于set）操作，当key存在时，返回false。
- 《Raft 为什么是更易理解的分布式一致性算法》
- 三种角色：Leader（领袖）、Follower（群众）、Candidate（候选人）
- 通过随机等待的方式发出投票，得票多的获胜。
- 《分布式系统---幂等性设计》
- 幂等特性的作用：该资源具备幂等性，请求方无需担心重复调用会产生错误。
- 常见保证幂等的手段：MVCC（类似于乐观锁）、去重表(唯一索引)、悲观锁、一次性token、序列号方式。
- 《传统事务与柔性事务》
- 基于BASE理论：基本可用、柔性状态、最终一致。
- 解决方案：记录日志+补偿（正向补充或者回滚）、消息重试(要求程序要幂等)；“无锁设计”、采用乐观锁机制。
- 说说分布式文件存储系统-基本架构 ？
- 《各种分布式文件系统的比较》 ？
- HDFS：大批量数据读写，用于高吞吐量的场景，不适合小文件。
- FastDFS：轻量级、适合小文件。
-
- Twitter 方案（Snowflake 算法）：41位时间戳+10位机器标识（比如IP，服务器名称等）+12位序列号(本地计数器)
- Flicker 方案：MySQL自增ID + "REPLACE INTO XXX:SELECT LAST_INSERT_ID();"
- UUID：缺点，无序，字符串过长，占用空间，影响检索性能。
- MongoDB 方案：利用 ObjectId。缺点：不能自增。
-
- 在数据库中创建 sequence 表，用于记录，当前已被占用的id最大值。
- 每台客户端主机取一个id区间（比如 1000~2000）缓存在本地，并更新 sequence 表中的id最大值记录。
- 客户端主机之间取不同的id区间，用完再取，使用乐观锁机制控制并发。
-
- 概念：DDD 主要对传统软件开发流程(分析-设计-编码)中各阶段的割裂问题而提出，避免由于一开始分析不明或在软件开发过程中的信息流转不一致而造成软件无法交付（和需求方设想不一致）的问题。DDD 强调一切以领域（Domain）为中心，强调领域专家（Domain Expert）的作用，强调先定义好领域模型之后在进行开发，并且领域模型可以指导开发（所谓的驱动）。
- 过程：理解领域、拆分领域、细化领域，模型的准确性取决于模型的理解深度。
- 设计：DDD 中提出了建模工具，比如聚合、实体、值对象、工厂、仓储、领域服务、领域事件来帮助领域建模。
-
- 领域（Doamin）本质上就是问题域，比如一个电商系统，一个论坛系统等。
- 界限上下文（Bounded Context）：阐述子域之间的关系，可以简单理解成一个子系统或组件模块。
- 领域模型（Domain Model）：DDD的核心是建立（用通用描述语言、工具—领域通用语言）正确的领域模型；反应业务需求的本质，包括实体和过程；其贯穿软件分析、设计、开发 的整个过程；常用表达领域模型的方式：图、代码或文字；
- 领域通用语言：领域专家、开发设计人员都能立即的语言或工具。
- 经典分层架构：用户界面/展示层、应用层、领域层、基础设施层，是四层架构模式。
- 使用的模式：
- 关联尽量少，尽量单项，尽量降低整体复杂度。
- 实体（Entity）：领域中的唯一标示，一个实体的属性尽量少，少则清晰。
- 值对象（Value Object）：没有唯一标识，且属性值不可变，小二简单的对象，比如Date。
- 领域服务（Domain Service）： 协调多个领域对象，只有方法没有状态(不存数据)；可以分为应用层服务，领域层服务、基础层服务。
- 聚合及聚合根（Aggregate，Aggregate Root）：聚合定义了一组具有内聚关系的相关对象的集合；聚合根是对聚合引用的唯一元素；当修改一个聚合时，必须在事务级别；大部分领域模型中，有70%的聚合通常只有一个实体，30%只有2~3个实体；如果一个聚合只有一个实体，那么这个实体就是聚合根；如果有多个实体，那么我们可以思考聚合内哪个对象有独立存在的意义并且可以和外部直接进行交互；
- 工厂（Factory）：类似于设计模式中的工厂模式。
- 仓储（Repository）：持久化到DB，管理对象，且只对聚合设计仓储。
-
- 聚合：比如一辆汽车（Car）包含了引擎（Engine）、车轮（Wheel）和油箱（Tank）等组件，缺一不可。
CQRS — Command Query Responsibility Seperation
-
- 核心思想：读写分离（查询和更新在不同的方法中），不同的流程只是不同的设计方式，CQ代码分离，分布式环境中会有明显体现（有冗余数据的情况下），目的是为了高性能。
-
- 最终一致的设计理念；依赖于高可用消息中间件。
-
- 一个实现 CQRS 的抽象案例。
-
《深度长文：我对CQRS/EventSourcing架构的思考》
- CQRS 模式分析 + 12306 抢票案例
- 《贫血，充血模型的解释以及一些经验》
- 失血模型：老子和儿子分别定义，相互不知道，二者实体定义中完全没有业务逻辑，通过外部Service进行关联。
- 贫血模型：老子知道儿子，儿子也知道老子；部分业务逻辑放到实体中；优点：各层单项依赖，结构清楚，易于维护；缺点：不符合OO思想，相比于充血模式，Service层较为厚重；
- 充血模型：和贫血模型类似，区别在于如何划分业务逻辑。优点：Service层比较薄，只充当Facade的角色，不和DAO打交道、复合OO思想；缺点：非单项依赖，DO和DAO之间双向依赖、和Service层的逻辑划分容易造成混乱。
- 肿胀模式：是一种极端情况，取消Service层、全部业务逻辑放在DO中；优点：符合OO思想、简化了分层；缺点：暴露信息过多、很多非DO逻辑也会强行并入DO。这种模式应该避免。
- 作者主张使用贫血模式。
TODO
TODO
TODO
TODO
TODO
TODO
TODO
制度还是制度! 另外，每个公司需要根据自己的需求和目标制定自己的 check list
-
- 代码 review 做的好，在于制度建设。
SCRUM - 争球
-
3个角色:Product Owner(PO) 产品负责人;Scrum Master（SM），推动Scrum执行;Team 开发团队。
-
3个工件：Product Backlog 产品TODOLIST，含优先级;Sprint Backlog 功能开发 TODO LIST；燃尽图；
-
五个价值观：专注、勇气、公开、承诺、尊重。
TODO
XP - eXtreme Programming
- 《主流敏捷开发方法：极限编程XP》
-
是一种指导开发人员的方法论。
-
4大价值：
- 沟通：鼓励口头沟通，提高效率。
- 简单：够用就好。
- 反馈：及时反馈、通知相关人。
- 勇气：提倡拥抱变化，敢于重构。
-
5个原则：快速反馈、简单性假设、逐步修改、提倡更改（小步快跑）、优质工作（保证质量的前提下保证小步快跑）。
-
5个工作：阶段性冲刺；冲刺计划会议；每日站立会议；冲刺后review；回顾会议。
-
边写码，边review。能够增强代码质量、减少bug。
TODO
TODO
TODO
TODO
我国刑法第253条之一规定：
- 国家机关或者金融、电信、交通、教育、医疗等单位的工作人员，违反国家规定，将本单位在履行职责或者提供服务过程中获得的公民个人信息，出售或者非法提供给他人，情节严重的，处3年以下有期徒刑或者拘役，并处或者单处罚金。
- 窃取或者以其他方法非法获取上述信息，情节严重的，依照前款的规定处罚。
- 单位犯前两款罪的，对单位判处罚金，并对其直接负责的主管人员和其他直接责任人员，依照各该款的规定处罚。
最高人民法院、最高人民检察院关于执行《中华人民共和国刑法》确定罪名的补充规定（四）规定：触犯刑法第253条之一第1款之规定，构成“出售、非法提供公民个人信息罪”；触犯刑法第253条之一第2款之规定，构成“非法获取公民个人信息罪”
-
- 业务理解和抽象能力
- NB的代码能力
- 全面：1. 在面对业务问题上，架构师脑海里是否会浮现出多种技术方案；2. 在做系统设计时是否考虑到了足够多的方方面面；3. 在做系统设计时是否考虑到了足够多的方方面面；
- 全局：是否考虑到了对上下游的系统的影响。
- 权衡：权衡投入产出比；优先级和节奏控制；
-
- 要去考虑的细节：模块化、轻耦合、无共享架构；减少各个组件之前的依懒、注意服务之间依懒所有造成的链式失败及影响等。
- 基础设施、配置、测试、开发、运维综合考虑。
- 考虑人、团队、和组织的影响。
-
- 素质：业务理解、技术广度、技术深度、丰富经验、沟通能力、动手能力、美学素养。
- 成长路径：2年积累知识、4年积累技能和祖内影响力、7年积累部门内影响力、7年以上积累跨部门影响力。
-
- 第一层的架构师看到的只是产品本身
- 第二层的架构师不仅看到自己的产品，还看到了整体的方案
- 第三层的架构师看到的是商业价值
TODO
TODO
国内：
-
CSDN 老牌技术社区、不必解释。
-
- 偏 Java 方向
-
- 偏 Linux 方向
-
- 涵盖 IT职场、Web前端、后端、移动端、数据库等方面内容，偏技术端。
国外：
- segmentfault
- 问答+专栏
- 知乎
- stackoverflow
-
测试:
-
运维:
-
Java:
- ImportNew
- 专注于 Java 技术分享
- HowToDoInJava
- 英文博客
- ImportNew
-
安全
-
大数据
-
其他专题网站：
- DockerInfo
- 专注于 Docker 应用及咨询、教程的网站。
- Linux公社
- Linux 主题社区
- DockerInfo
- 《软件架构师的12项修炼：技术技能篇》京东 淘宝
- 《架构之美》京东 淘宝
- 《分布式服务架构》京东 淘宝
- 《聊聊架构》 京东 淘宝
- 《云原生应用架构实践》京东 淘宝
- 《亿级流量网站架构核心技术》京东 淘宝
- 《淘宝技术这十年》京东 淘宝
- 《企业IT架构转型之道-中台战略思想与架构实战》 京东 淘宝
TODO
国内：
-
- HTML 、 CSS、XML、Java、Python、PHP、设计模式等入门手册。
-
- 很多很多中文在线电子书，是一个全新的开源技术文档分享平台。
-
- 付费电子书。
-
- AI、大数据方面系列中文文档。
国外：
- Quick Code
- 免费在线技术教程。
- gitbook.com
- 有部分中文电子书。
- Cheatography
- Cheat Sheets 大全，单页文档网站。
活动发布平台:
- 极客搜索
- 技术文章搜索引擎。
- 七牛
- 又拍云
- 阿里云
- 腾讯云
- 百度云
- 新浪云
- 金山云