查看原文
其他

Java 全栈知识体系( PDF 可下载)

点击关注👉 民工哥技术之路 2022-12-31

点击关注公众号,回复“1024”获取2TB学习资源!

40000 +字长文总结,民工哥已将此文整理成PDF文档了,需要的见文后下载获取方式。


全栈知识体系总览

Java入门与进阶

面向对象与Java基础
  • Java 基础 - 面向对象
  • Java 基础 - 知识点
  • Java 基础 - 图谱 & Q/A

基础知识点复习完了以后,我们需要深入的理解Java中的一些基础机制:

  • Java 基础 - 泛型机制详解
    • Java泛型这个特性是从JDK 1.5才开始加入的,因此为了兼容之前的版本,Java泛型的实现采取了“伪泛型”的策略,即Java在语法上支持泛型,但是在编译阶段会进行所谓的“类型擦除”(Type Erasure),将所有的泛型表示(尖括号中的内容)都替换为具体的类型(其对应的原生态类型),就像完全没有泛型一样。
  • Java 基础 - 注解机制详解
    • 注解是JDK1.5版本开始引入的一个特性,用于对代码进行说明,可以对包、类、接口、字段、方法参数、局部变量等进行注解。它是框架学习和设计者必须掌握的基础。
  • Java 基础 - 异常机制详解
    • Java异常是Java提供的一种识别及响应错误的一致性机制,ava异常机制可以使程序中异常处理代码和正常业务代码分离,保证程序代码更加优雅,并提高程序健壮性。
  • Java 基础 - 反射机制详解
    • JAVA反射机制是在运行状态中,对于任意一个类,都能够知道这个类的所有属性和方法;对于任意一个对象,都能够调用它的任意一个方法和属性;这种动态获取的信息以及动态调用对象的方法的功能称为java语言的反射机制。Java反射机制在框架设计中极为广泛,需要深入理解。
  • Java常用机制 - SPI机制
    • SPI(Service Provider Interface),是JDK内置的一种 服务提供发现机制,可以用来启用框架扩展和替换组件,主要是被框架的开发人员使用。
Java进阶 - 集合框架

A. Java进阶 - Java 集合框:Java 集合框架应用是极其广泛的,对于其总体框架用法及源码都必要深刻理解。

  • Collection 类关系图

B. Java进阶 - Java 集合框之 Collection源码解读:对核心的Collection类进行源码解读。

  • Collection - ArrayList 源码解析
  • Collection - LinkedList源码解析
  • Collection - Stack & Queue 源码解析
  • Collection - PriorityQueue源码解析

C. Java进阶 - Java 集合框之 Map & Set 源码解读:对核心的Map & Set 类进行源码解读。

  • Map - HashSet & HashMap 源码解析
  • Map - LinkedHashSet&Map源码解析
  • Map - TreeSet & TreeMap 源码解析
  • Map - WeakHashMap源码解析
Java进阶 - 并发框架

A. Java进阶 - Java 并发之基础:首先全局的了解并发的知识体系,同时了解并发理论基础和线程基础,并发关键字等,这些是你理解Java并发框架的基础。

  • Java 并发 - 知识体系
  • Java 并发 - 理论基础
  • Java 并发 - 线程基础
  • 关键字: synchronized详解
  • 关键字: volatile详解
  • 关键字: final详解

B. Java进阶 - Java 并发之J.U.C框架:然后需要对J.U.C框架五大类详细解读,包括:Lock框架,并发集合, 原子类, 线程池和工具类。

  • JUC - 类汇总和学习指南
    • JUC框架包含几个部分?
    • 每个部分有哪些核心的类?
    • 最最核心的类有哪些?

B.1 Java进阶 - Java 并发之J.U.C框架【1/5】:CAS及原子类:从最核心的CAS, Unsafe和原子类开始分析。

  • JUC原子类: CAS, Unsafe和原子类详解
    • 线程安全的实现方法有哪些?
    • 什么是CAS?
    • CAS使用示例,结合AtomicInteger给出示例?
    • CAS会有哪些问题?
    • 针对这这些问题,Java提供了哪几个解决的?
    • AtomicInteger底层实现? CAS+volatile
    • 请阐述你对Unsafe类的理解?
    • 说说你对Java原子类的理解? 包含13个,4组分类,说说作用和使用场景。
    • AtomicStampedReference是什么?
    • AtomicStampedReference是怎么解决ABA的? 内部使用Pair来存储元素值及其版本号
    • java中还有哪些类可以解决ABA的问题? AtomicMarkableReference

B.2 Java进阶 - Java 并发之J.U.C框架【2/5】:锁:然后分析JUC中锁。

  • JUC锁: LockSupport详解
  • JUC锁: 锁核心类AQS详解
  • JUC锁: ReentrantLock详解
  • JUC锁: ReentrantReadWriteLock详解

B.3 Java进阶 - Java 并发之J.U.C框架【3/5】:集合:再理解JUC中重要的支持并发的集合。

  • JUC集合: ConcurrentHashMap详解
  • JUC集合: CopyOnWriteArrayList详解
  • JUC集合: ConcurrentLinkedQueue详解
  • JUC集合: BlockingQueue详解

B.4 Java进阶 - Java 并发之J.U.C框架【4/5】:线程池:再者分析JUC中非常常用的线程池等。

  • JUC线程池: FutureTask详解
  • JUC线程池: ThreadPoolExecutor详解
  • JUC线程池: ScheduledThreadPool详解
  • JUC线程池: Fork/Join框架详解

B.5 Java进阶 - Java 并发之J.U.C框架【5/5】:工具类:最后来看下JUC中有哪些工具类,以及线程隔离术ThreadLocal。

  • JUC工具类: CountDownLatch详解
  • JUC工具类: CyclicBarrier详解
  • JUC工具类: Semaphore详解
  • JUC工具类: Phaser详解
  • JUC工具类: Exchanger详解
  • Java 并发 - ThreadLocal详解

C. Java进阶 - Java 并发之 本质与模式:最后站在更高的角度看其本质(协作,分工和互斥),同时总结上述知识点所使用的模式。

  • TODO:Java 并发 - 并发的本质:协作,分工和互斥
  • TODO:Java 并发 - 并发的模式梳理
Java进阶 - IO框架

A. Java进阶 - IO框架之知识体系:首先了解下Java IO框架包含什么,同时推荐下如何学习IO框架。
  • Java IO/NIO/AIO - Overview
    • 本文主要梳理Java IO/NIO/AIO的知识体系

B. Java进阶 - IO框架之基础IO:其次对Java基础IO框架进行梳理,包括其分类,使用和源码详解。

  • Java IO - 分类(传输,操作)
    • 本文主要从传输方式数据操作两个方面分析Java IO的分类
  • Java IO - 设计模式(装饰者模式)
    • Java I/O 使用了装饰者模式来实现
  • Java IO - 源码: InputStream
    • 本文主要从JDK源码角度分析InputStream
  • Java IO - 源码: OutputStream
    • 本文主要从JDK源码角度分析 OutputStream
  • Java IO - 常见类使用
    • 本文主要介绍Java IO常见类的使用,包括:磁盘操作,字节操作,字符操作,对象操作和网络操作

C. Java进阶 - IO框架之NIO/AIO等:然后再对Unix IO模型学习,引入到Java BIO/NIO/AIO相关知识详解。

  • IO 模型 - Unix IO 模型
    • 本文主要简要介绍 Unix I/O 5种模型,并对5大模型比较,并重点为后续章节解释IO多路复用做铺垫
  • Java IO - BIO 详解
    • BIO就是: blocking IO。最容易理解、最容易实现的IO工作方式,应用程序向操作系统请求网络IO操作,这时应用程序会一直等待;另一方面,操作系统收到请求后,也会等待,直到网络上有数据传到监听端口;操作系统在收集数据后,会把数据发送给应用程序;最后应用程序受到数据,并解除等待状态
  • Java NIO - 基础详解
    • 新的输入/输出 (NIO) 库是在 JDK 1.4 中引入的,弥补了原来的 I/O 的不足,提供了高速的、面向块的 I/O
  • Java NIO - IO多路复用详解
    • 本文主要对IO多路复用,Ractor模型以及Java NIO对其的支持
  • Java AIO - 异步IO详解
    • 本文主要对异步IO和Java中对AIO的支持详解。@pdai

D. Java进阶 - IO框架之开源框架:最后再对常用的开源框架进行分析和详解。

  • Java NIO - 零拷贝实现这里转一篇Java NIO 零拷贝的实现文章,在此之前建议先理解什么是Linux中零拷贝,可以先看这篇文章。本文从源码着手分析了 Java NIO 对零拷贝的实现,主要包括基于内存映射(mmap)方式的 MappedByteBuffer 以及基于 sendfile 方式的 FileChannel。最后在篇末简单的阐述了一下 Netty 中的零拷贝机制,以及 RocketMQ 和 Kafka 两种消息队列在零拷贝实现方式上的区别。

  • Java N(A)IO - 框架: Netty

    • Netty是一个高性能、异步事件驱动的NIO框架,提供了对TCP、UDP和文件传输的支持。作为当前最流行的NIO框架,Netty在互联网领域、大数据分布式计算领域、游戏行业、通信行业等获得了广泛的应用,一些业界著名的开源组件也基于Netty构建,比如RPC框架、zookeeper等
Java进阶 - JVM相关

学习思路

A. Java进阶 - JVM相关 知识体系:首先按照上述学习思路,理解总体知识点在全局上与知识体系之间的对应关系。

  • JVM 相关知识体系

B. Java进阶 - JVM相关 类加载:然后理解类字节码和类的加载机制。

  • JVM基础 - 类字节码详解
    • 源代码通过编译器编译为字节码,再通过类加载子系统进行加载到JVM中运行
  • JVM基础 - Java 类加载机制
    • 这篇文章将带你深入理解Java 类加载机制

C. Java进阶 - JVM相关 内存结构:因为类字节码是加载到JVM内存结构中的,所以紧接着理解JVM内存结构。

  • JVM基础 - JVM内存结构
    • 本文主要对JVM 内存结构进行讲解,注意不要和Java内存模型混淆了

D. Java进阶 - JVM相关 JMM:然后通过理解JVM与硬件之间的联系,理解Java 通过其内存模型保证数据线程安全等,这是JVM在并发上底层的支持。

  • JVM基础 - Java 内存模型引入
    • 很多人都Java内存模型和JVM内存结构,以及Java内存模型与物理内存之间的关系。本文从堆栈角度引入JMM,然后介绍JMM和物理内存之间的关系, 为后面JMM详解, JVM 内存结构详解, Java 对象模型详解等铺垫。
  • JVM基础 - Java 内存模型详解
    • 本文主要转载自 Info 上深入理解Java内存模型 (opens new window), 作者程晓明。这篇文章对JMM讲的很清楚了,大致分三部分:重排序与顺序一致性;三个同步原语(lock,volatile,final)的内存语义,重排序规则及在处理器中的实现;java 内存模型的设计,及其与处理器内存模型和顺序一致性内存模型的关系

E. Java进阶 - JVM相关 GC:再者理解下Java GC机制,如何回收内存等。

  • JVM基础 - Java 垃圾收集
    • 垃圾收集主要是针对堆和方法区进行

F. Java进阶 - JVM相关 排错调优:最后围绕着调试和排错,分析理解JVM调优参数,动态字节码技术及动态在线调试的原理;学会使用常用的调工具和在线动态调试工具等。

  • 调试排错 - JVM 调优参数
    • 本文对JVM涉及的常见的调优参数和垃圾回收参数进行阐述
  • 调试排错 - Java OOM 分析
    • 本文以两个简单的例子(堆内存溢出MetaSpace (元数据) 内存溢出)解释Java 内存溢出的分析过程
  • 调试排错 - Java问题排查:Linux命令
    • Java 在线问题排查主要分两篇:本文是第一篇,通过linux常用命令排查
  • 调试排错 - Java问题排查:工具单
    • Java 在线问题排查主要分两篇:本文是第二篇,通过java调试/排查工具进行问题定位
  • 调试排错 - 9种常见的CMS GC问题分析与解决
    • 本文整理自美团技术团队 (opens new window), 这篇文章将可以帮助你构建CMS GC相关问题解决的知识体系,分享给你。
  • 调试排错 - Java动态调试技术原理
    • 本文转载自 美团技术团队胡健的Java 动态调试技术原理及实践 (opens new window), 通过学习java agent方式进行动态调试了解目前很多大厂开源的一些基于此的调试工具。
  • 调试排错 - Java应用在线调试Arthas
    • 本文主要介绍Alibaba开源的Java诊断工具
    • 这个类从哪个 jar 包加载的? 为什么会报各种类相关的 Exception?
    • 我改的代码为什么没有执行到? 难道是我没 commit? 分支搞错了?
    • 遇到问题无法在线上 debug,难道只能通过加日志再重新发布吗?
    • 线上遇到某个用户的数据处理有问题,但线上同样无法 debug,线下无法重现!
    • 是否有一个全局视角来查看系统的运行状况?
    • 有什么办法可以监控到JVM的实时运行状态?
  • 调试排错 - 使用IDEA本地调试和远程调试
    • Debug用来追踪代码的运行流程,通常在程序运行过程中出现异常,启用Debug模式可以分析定位异常发生的位置,以及在运行过程中参数的变化;并且在实际的排错过程中,还会用到Remote Debug。IDEA 相比 Eclipse/STS效率更高,本文主要介绍基于IDEA的Debug和Remote Debug的技巧。

G. Java进阶 - JVM 企业面试题精选:重点介绍一些企业常见的面试及答案解析

更多关于Java技术栈的技术文章、技术资源(文档、视频)、以及各咱企业面试题,可以扫码关注民工哥技术之路公众号,回复关键字 1024 获取全部分享的技术资源。

数据结构与算法

数据结构基础

学习思路

避免孤立的学习知识点,要关联学习。比如实际应用当中,我们经常使用的是查找排序操作,这在我们的各种管理系统、数据库系统、操作系统等当中,十分常用,我们通过这个线索将知识点串联起来:

数组的下标寻址十分迅速,但计算机的内存是有限的,故数组的长度也是有限的,实际应用当中的数据往往十分庞大;而且无序数组的查找最坏情况需要遍历整个数组;后来人们提出了二分查找,二分查找要求数组的构造一定有序,二分法查找解决了普通数组查找复杂度过高的问题。任和一种数组无法解决的问题就是插入、删除操作比较复杂,因此,在一个增删查改比较频繁的数据结构中,数组不会被优先考虑

普通链表由于它的结构特点被证明根本不适合进行查找

哈希表是数组和链表的折中,同时它的设计依赖散列函数的设计,数组不能无限长、链表也不适合查找,所以也适合大规模的查找

二叉查找树因为可能退化成链表,同样不适合进行查找

AVL树是为了解决可能退化成链表问题,但是AVL树的旋转过程非常麻烦,因此插入和删除很慢,也就是构建AVL树比较麻烦

红黑树是平衡二叉树和AVL树的折中,因此是比较合适的。集合类中的Map、关联数组具有较高的查询效率,它们的底层实现就是红黑树。

多路查找树 是大规模数据存储中,实现索引查询这样一个实际背景下,树节点存储的元素数量是有限的(如果元素数量非常多的话,查找就退化成节点内部的线性查找了),这样导致二叉查找树结构由于树的深度过大而造成磁盘I/O读写过于频繁,进而导致查询效率低下。

B树与自平衡二叉查找树不同,B树适用于读写相对大的数据块的存储系统,例如磁盘。它的应用是文件系统及部分非关系型数据库索引。

B+树在B树基础上,为叶子结点增加链表指针(B树+叶子有序链表),所有关键字都在叶子结点 中出现,非叶子结点作为叶子结点的索引;B+树总是到叶子结点才命中。通常用于关系型数据库(如Mysql)和操作系统的文件系统中。

B*树是B+树的变体,在B+树的非根和非叶子结点再增加指向兄弟的指针, 在B+树基础上,为非叶子结点也增加链表指针,将结点的最低利用率从1/2提高到2/3。

R树是用来做空间数据存储的树状数据结构。例如给地理位置,矩形和多边形这类多维数据建立索引。

Trie树是自然语言处理中最常用的数据结构,很多字符串处理任务都会用到。Trie树本身是一种有限状态自动机,还有很多变体。什么模式匹配、正则表达式,都与这有关。

A. 数据结构 知识点:数据结构是基础中的基础,任何进阶都逃不开这些知识点。

  • 数据结构 - Overview

B. 数据结构之 线性结构:首先理解数据结构中线性结构及其延伸:数组和矩阵,链表,栈和队列等。

  • 线性表 - 数组和矩阵
    • 数组是一种连续存储线性结构,元素类型相同,大小相等,数组是多维的,通过使用整型索引值来访问他们的元素,数组尺寸不能改变
  • 线性表 - 链表
    • n个节点离散分配,彼此通过指针相连,每个节点只有一个前驱节点,每个节点只有一个后续节点,首节点没有前驱节点,尾节点没有后续节点。确定一个链表我们只需要头指针,通过头指针就可以把整个链表都能推出来
  • 线性表(散列) - 哈希表
    • 散列表(Hash table,也叫哈希表),是根据关键码值(Key value)而直接进行访问的数据结构。也就是说,它通过把关键码值映射到表中一个位置来访问记录,以加快查找的速度。这个映射函数叫做散列函数,存放记录的数组叫做散列表。@pdai
  • 线性表 - 栈和队列
    • 数组和链表都是线性存储结构的基础,栈和队列都是线性存储结构的应用

C. 数据结构之 逻辑结构:树:然后理解数据结构中逻辑结构之树:二叉搜索树(BST),平衡二叉树(AVL),红黑树(R-B Tree),哈夫曼树,前缀树(Trie)等。

  • 树 - 基础和Overview
    • 树在数据结构中至关重要,这里展示树的整体知识体系结构和几种常见树类型
  • 树 - 二叉搜索树(BST)
    • 本文主要介绍 二叉树中最基本的二叉查找树(Binary Search Tree),(又:二叉搜索树,二叉排序树)它或者是一棵空树,或者是具有下列性质的二叉树:若它的左子树不空,则左子树上所有结点的值均小于它的根结点的值;若它的右子树不空,则右子树上所有结点的值均大于它的根结点的值;它的左、右子树也分别为二叉排序树。
  • 树 - 平衡二叉树(AVL)
    • 平衡二叉树(Balanced Binary Tree)具有以下性质:它是一棵空树或它的左右两个子树的高度差的绝对值不超过1,并且左右两个子树都是一棵平衡二叉树。平衡二叉树的常用实现方法有红黑树、AVL、替罪羊树、Treap、伸展树等。最小二叉平衡树的节点的公式如下 F(n)=F(n-1)+F(n-2)+1 这个类似于一个递归的数列,可以参考Fibonacci数列,1是根节点,F(n-1)是左子树的节点数量,F(n-2)是右子树的节点数量。
  • 树 - 红黑树(R-B Tree)
    • 红黑树(Red Black Tree) 是一种自平衡二叉查找树,是在计算机科学中用到的一种数据结构,典型的用途是实现关联数组,是平衡二叉树和AVL树的折中。
  • 树 - 哈夫曼树
    • 哈夫曼又称最优二叉树, 是一种带权路径长度最短的二叉树。
  • 树 - 前缀树(Trie)
    • Trie,又称字典树、单词查找树或键树,是一种树形结构,是一种哈希树的变种。典型应用是用于统计,排序和保存大量的字符串(但不仅限于字符串),所以经常被搜索引擎系统用于文本词频统计。它的优点是:利用字符串的公共前缀来减少查询时间,最大限度地减少无谓的字符串比较,查询效率比哈希树高。

D. 数据结构之 逻辑结构:图:最后理解数据结构中逻辑结构之图:图基础,图的遍历,最小生成树(Prim & Kruskal),最短路径(Dijkstra & Frolyd),拓扑排序(Topological sort),AOE & 关键路径等。

  • 图 - 基础和Overview
    • 图(Graph)是由顶点和连接顶点的边构成的离散结构。在计算机科学中,图是最灵活的数据结构之一,很多问题都可以使用图模型进行建模求解。例如: 生态环境中不同物种的相互竞争、人与人之间的社交与关系网络、化学上用图区分结构不同但分子式相同的同分异构体、分析计算机网络的拓扑结构确定两台计算机是否可以通信、找到两个城市之间的最短路径等等。
  • 图 - 遍历(BFS & DFS)
    • 图的深度优先搜索(Depth First Search),和树的先序遍历比较类似; 广度优先搜索算法(Breadth First Search),又称为"宽度优先搜索"或"横向优先搜索"
  • 图 - 最小生成树(Prim & Kruskal)
    • Kruskal算法是从最小权重边着手,将森林里的树逐渐合并;prim算法是从顶点出发,在根结点的基础上建起一棵树
  • 图 - 最短路径(Dijkstra & Frolyd)
    • 最短路径有着广泛的应用,比如地图两点间距离计算,公交查询系统,路由选择等
  • 图 - 拓扑排序(Topological sort)
    • 拓扑排序主要用来解决有向图中的依赖解析(dependency resolution)问题
  • 图 - AOE & 关键路径
    • 关键路径在项目管理计算工期等方面有广泛等应用,提升工期就是所见缩减所有关键路径上的工期,并且在实现时需要应用到之前拓扑排序的算法(前提: 有向无环图,有依赖关系)
排序算法详解

A. 常见排序概要:重点理解几个排序之间的对比,时间和空间复杂度,以及应用。PS:越简单越要提高认知效率,做到战略上藐视战术上重视。

  • 排序 - Overview

B. 常见排序详解:具体分析各种排序及其复杂度,查漏补缺;在综合复杂度及稳定性情况下,通常希尔, 快排归并需要重点掌握。

  • 排序 - 冒泡排序(Bubble Sort)
    • 它是一种较简单的排序算法。它会遍历若干次要排序的数列,每次遍历时,它都会从前往后依次的比较相邻两个数的大小;如果前者比后者大,则交换它们的位置。这样,一次遍历之后,最大的元素就在数列的末尾!采用相同的方法再次遍历时,第二大的元素就被排列在最大元素之前。重复此操作,直到整个数列都有序为止
  • 排序 - 快速排序(Quick Sort)
    • 它的基本思想是: 选择一个基准数,通过一趟排序将要排序的数据分割成独立的两部分;其中一部分的所有数据都比另外一部分的所有数据都要小。然后,再按此方法对这两部分数据分别进行快速排序,整个排序过程可以递归进行,以此达到整个数据变成有序序列。
  • 排序 - 插入排序(Insertion Sort)
    • 直接插入排序(Straight Insertion Sort)的基本思想是: 把n个待排序的元素看成为一个有序表和一个无序表。开始时有序表中只包含1个元素,无序表中包含有n-1个元素,排序过程中每次从无序表中取出第一个元素,将它插入到有序表中的适当位置,使之成为新的有序表,重复n-1次可完成排序过程。
  • 排序 - Shell排序(Shell Sort)
    • 希尔排序实质上是一种分组插入方法。它的基本思想是: 对于n个待排序的数列,取一个小于n的整数gap(gap被称为步长)将待排序元素分成若干个组子序列,所有距离为gap的倍数的记录放在同一个组中;然后,对各组内的元素进行直接插入排序。这一趟排序完成之后,每一个组的元素都是有序的。然后减小gap的值,并重复执行上述的分组和排序。重复这样的操作,当gap=1时,整个数列就是有序的。
  • 排序 - 选择排序(Selection sort)
    • 它的基本思想是: 首先在未排序的数列中找到最小(or最大)元素,然后将其存放到数列的起始位置;接着,再从剩余未排序的元素中继续寻找最小(or最大)元素,然后放到已排序序列的末尾。以此类推,直到所有元素均排序完毕。
  • 排序 - 堆排序(Heap Sort)
    • 堆排序是指利用堆这种数据结构所设计的一种排序算法。堆是一个近似完全二叉树的结构,并同时满足堆积的性质:即子结点的键值或索引总是小于(或者大于)它的父节点。
  • 排序 - 归并排序(Merge Sort)
    • 将两个的有序数列合并成一个有序数列,我们称之为"归并"。归并排序(Merge Sort)就是利用归并思想对数列进行排序。
  • 排序 - 桶排序(Bucket Sort)
    • 桶排序(Bucket Sort)的原理很简单,将数组分到有限数量的桶子里。每个桶子再个别排序(有可能再使用别的排序算法或是以递归方式继续使用桶排序进行排序)
  • 排序 - 基数排序(Radix Sort)
    • 它的基本思想是: 将整数按位数切割成不同的数字,然后按每个位数分别比较。具体做法是: 将所有待比较数值统一为同样的数位长度,数位较短的数前面补零。然后,从最低位开始,依次进行一次排序。这样从最低位排序一直到最高位排序完成以后, 数列就变成一个有序序列
算法思想详解

A. 算法思想 详解:紧接着我们通过理解算法背后常用的算法思想,进行归纳总结,并通过leetcode练习来辅助理解和提升。

  • 算法思想 - 分治算法
    • 分治算法的基本思想是将一个规模为N的问题分解为K个规模较小的子问题,这些子问题相互独立且与原问题性质相同。求出子问题的解,就可得到原问题的解
  • 算法思想 - 动态规划算法
    • 动态规划算法通常用于求解具有某种最优性质的问题。在这类问题中,可能会有许多可行解。每一个解都对应于一个值,我们希望找到具有最优值的解。动态规划算法与分治法类似,其基本思想也是将待求解问题分解成若干个子问题,先求解子问题,然后从这些子问题的解得到原问题的解
  • 算法思想 - 贪心算法
    • 本文主要介绍算法中贪心算法的思想: 保证每次操作都是局部最优的,并且最后得到的结果是全局最优的
  • 算法思想 - 二分法
    • 本文主要介绍算法思想中分治算法重要的二分法,比如二分查找;二分查找也称折半查找(Binary Search),它是一种效率较高的查找方法。但是,折半查找要求线性表必须采用顺序存储结构,而且表中元素按关键字有序排列。
  • 算法思想 - 搜索算法
    • 本文主要介绍算法中搜索算法的思想,主要包含BFS,DFS
  • 算法思想 - 回溯算法
    • Backtracking(回溯)属于 DFS, 本文主要介绍算法中Backtracking算法的思想。回溯算法实际上一个类似枚举的搜索尝试过程,主要是在搜索尝试过程中寻找问题的解,当发现已不满足求解条件时,就“回溯”返回,尝试别的路径。回溯法是一种选优搜索法,按选优条件向前搜索,以达到目标。但当探索到某一步时,发现原先选择并不优或达不到目标,就退回一步重新选择,这种走不通就退回再走的技术为回溯法
领域算法详解

A. 领域算法 梳理知识点:在了解基础算法之后,我们还要学习和了解在不同专业领域有哪些特有的算法。这里不一定要求复杂度,而是要有知识面以及解决问题的思路。

  • 一些领域算法 - Overview

B. 领域算法之 安全算法:主要包括摘要算法和加密算法两大类。

  • 安全算法 - 摘要算法
    • 消息摘要算法的主要特征是加密过程不需要密钥,并且经过加密的数据无法被解密,目前可以解密逆向的只有CRC32算法,只有输入相同的明文数据经过相同的消息摘要算法才能得到相同的密文。消息摘要算法不存在密钥的管理与分发问题,适合于分布式网络上使用。
  • 安全算法 - 加密算法
    • 数据加密的基本过程就是对原来为明文的文件或数据按某种算法进行处理,使其成为不可读的一段代码为“密文”,使其只能在输入相应的密钥之后才能显示出原容,通过这样的途径来达到保护数据不被非法人窃取、阅读的目的。该过程的逆过程为解密,即将该编码信息转化为其原来数据的过程
  • 安全算法 - 国密算法
    • 国密即国家密码局认定的国产密码算法。主要有SM1,SM2,SM3,SM4,SM7, SM9。

C. 领域算法之 字符串匹配算法:字符串匹配(String Matchiing)也称字符串搜索(String Searching)是字符串算法中重要的一种,是指从一个大字符串或文本中找到模式串出现的位置。

  • 朴素的字符串匹配算法(Naive String Matching Algorithm)
    • 朴素的字符串匹配算法又称为暴力匹配算法(Brute Force Algorithm),最为简单的字符串匹配算法
  • Knuth-Morris-Pratt 字符串匹配算法(即 KMP 算法)
    • Knuth-Morris-Pratt算法(简称KMP)是最常用的字符串匹配算法之一
  • Boyer-Moore 字符串匹配算法
    • 各种文本编辑器的"查找"功能(Ctrl+F),大多采用Boyer-Moore算法,效率非常高
  • 字符串匹配 - 文本预处理:后缀树(Suffix Tree)
    • 上述字符串匹配算法(朴素的字符串匹配算法, KMP 算法, Boyer-Moore算法)均是通过对模式(Pattern)字符串进行预处理的方式来加快搜索速度。对 Pattern 进行预处理的最优复杂度为 O(m),其中 m 为 Pattern 字符串的长度。那么,有没有对文本(Text)进行预处理的算法呢?本文即将介绍一种对 Text 进行预处理的字符串匹配算法:后缀树(Suffix Tree)

D. 领域算法之 大数据处理:这里其实想让大家理解的是大数据处理的常用思路,而不是算法本身。

  • 大数据处理 - Overview
    • 本文主要介绍大数据处理的一些思路
  • 大数据处理 - 分治/hash/排序
    • 就是先映射,而后统计,最后排序:
    • 分而治之/hash映射: 针对数据太大,内存受限,只能是: 把大文件化成(取模映射)小文件,即16字方针: 大而化小,各个击破,缩小规模,逐个解决
    • hash_map统计: 当大文件转化了小文件,那么我们便可以采用常规的hash_map(ip,value)来进行频率统计。
    • 堆/快速排序: 统计完了之后,便进行排序(可采取堆排序),得到次数最多的IP。
  • 大数据处理 - Bitmap & Bloom Filter
    • 布隆过滤器有着广泛的应用,对于大量数据的“存不存在”的问题在空间上有明显优势,但是在判断存不存在是有一定的错误率(false positive),也就是说,有可能把不属于这个集合的元素误认为属于这个集合(False Positive),但不会把属于这个集合的元素误认为不属于这个集合(False Negative)
  • 大数据处理 - 双层桶划分
    • 其实本质上还是分而治之的思想,重在“分”的技巧上!适用范围: 第k大,中位数,不重复或重复的数字;基本原理及要点: 因为元素范围很大,不能利用直接寻址表,所以通过多次划分,逐步确定范围,然后最后在一个可以接受的范围内进行。
  • 大数据处理 - Trie树/数据库/倒排索引
    • 适用范围: 数据量大,重复多,但是数据种类小可以放入内存;基本原理及要点: 实现方式,节点孩子的表示方式;扩展: 压缩实现
  • 大数据处理 - 外排序
    • 适用范围: 大数据的排序,去重;基本原理及要点: 外排序的归并方法,置换选择败者树原理,最优归并树
  • 大数据处理 - Map & Reduce
    • MapReduce是一种计算模型,简单的说就是将大批量的工作(数据)分解(MAP)执行,然后再将结果合并成最终结果(REDUCE)。这样做的好处是可以在任务被分解后,可以通过大量机器进行并行计算,减少整个操作的时间。但如果你要我再通俗点介绍,那么,说白了,Mapreduce的原理就是一个归并排序

E. 领域算法之 分布式算法:接着向大家介绍分布式算法,包括一致性Hash算法,经典的Paxos算法,Raft算法,ZAB算法等;顺便也介绍了经典用于全局ID生成的Snowflake算法。

  • 分布式算法 - Overview
    • 本文总结下常见的分布式算法
  • 分布式算法 - 一致性Hash算法
    • 一致性Hash算法是个经典算法,Hash环的引入是为解决单调性(Monotonicity)的问题;虚拟节点的引入是为了解决平衡性(Balance)问题
  • 分布式算法 - Paxos算法
    • Paxos算法是Lamport宗师提出的一种基于消息传递的分布式一致性算法,使其获得2013年图灵奖。自Paxos问世以来就持续垄断了分布式一致性算法,Paxos这个名词几乎等同于分布式一致性, 很多分布式一致性算法都由Paxos演变而来
  • 分布式算法 - Raft算法
    • Paxos是出了名的难懂,而Raft正是为了探索一种更易于理解的一致性算法而产生的。它的首要设计目的就是易于理解,所以在选主的冲突处理等方式上它都选择了非常简单明了的解决方案
  • 分布式算法 - ZAB算法
    • ZAB 协议全称:Zookeeper Atomic Broadcast(Zookeeper 原子广播协议), 它应该是所有一致性协议中生产环境中应用最多的了。为什么呢?因为他是为 Zookeeper 设计的分布式一致性协议!
  • 分布式算法 - Snowflake算法
    • Snowflake,雪花算法是由Twitter开源的分布式ID生成算法,以划分命名空间的方式将 64-bit位分割成多个部分,每个部分代表不同的含义。这种就是将64位划分为不同的段,每段代表不同的涵义,基本就是时间戳、机器ID和序列数。为什么如此重要?因为它提供了一种ID生成及生成的思路,当然这种方案就是需要考虑时钟回拨的问题以及做一些 buffer的缓冲设计提高性能。

F. 领域算法之 其它算法汇总:最后概要性的了解常见的其它算法:负载均衡算法,推荐算法,数据挖掘或机器学习算法。因为有其专业性,一般总体上了解就够了。

  • 负载均衡算法 - 汇总
    • 本文主要介绍常用的负载均衡算法和Nginx中支持的负载均衡算法:轮询法(Round Robin),加权轮询法(Weight Round Robin),平滑加权轮询法(Smooth Weight Round Robin),随机法(Random),加权随机法(Weight Random),源地址哈希法(Hash),最小连接数法(Least Connections)
  • 推荐算法 - 汇总
    • 本文主要对推荐算法整体知识点做汇总,做到总体的理解;深入理解需要再看专业的材料
  • 数据挖掘 - 10大算法汇总
    • 国际权威的学术组织the IEEE International Conference on Data Mining (ICDM) 2006年12月评选出了数据挖掘领域的十大经典算法: C4.5, k-Means, SVM, Apriori, EM, PageRank, AdaBoost, kNN, Naive Bayes, and CART

更多关于Java技术栈的技术文章、技术资源(文档、视频)、以及各咱企业面试题,可以扫码关注民工哥技术之路公众号,回复关键字 1024 获取全部分享的技术资源。

数据库理论与实践

数据库基础与理论

A. 了解数据库基础和理论知识:在学习数据库之前,不要一上来就是SQL语句;这里建议从数据结构开始切入到数据库,然后再理解数据库是如何工作的,紧接着理解数据库系统的原理知识点和相关知识体系。

  • SQL DB - 资料汇总
  • SQL DB - 关系型数据库是如何工作的
    • 很多人在学习数据时都是孤立的学习知识点,这样是很难将所有知识点串起来深入理解;强烈推荐你学习两篇文章:Architecture of a Database System (opens new window)以及How does a relational database work (opens new window);本文主要在第二篇基础上翻译并梳理,如果你英文不好的话,你可以通过本文帮助你构筑数据库体系的基础
  • SQL DB - 关系型数据库设计理论
    • 在上文了解数据库如何工作后,本节介绍如何将一个关系模型(基于表的数据模型)合理的转化为数据表关系表,以及确定主外健的。这便是数据库设计理论基础,包括术语,函数依赖,范式等理论基础
  • SQL DB - 关系型数据库设计流程
    • 在上文知道如何设计表和健后,让我们再看看整个的数据库设计的标准流程吧,主要包括需求分析, 概念结构设计, 逻辑结构设计 , 物理设计, 实施阶段运行和维护阶段这6个阶段
  • SQL DB - 数据库系统核心知识点
    • 基于上篇数据库如何工作的基础之上,我们再来梳理下数据库系统中有哪些重要的知识点,包括:事务,并发一致性,封锁,隔离级别,多版本并发控制等
SQL语言基础和进阶

B. 完全掌握SQL语言:在了解数据库基础之后,如下章节将重点阐述SQL语言相关的知识;主要顺序是:SQL语法->SQL语句练习->SQL题目进阶->SQL语句优化建议等。

  • SQL语言 - SQL语法基础
    • 本文包含了所有SQL语言的基础语法,并用例子的方式向你展示
  • SQL语言 - SQL语句练习
    • 在上文学习了SQL的基本语法以后,本文将通过最经典的“教师-学生-成绩”表来帮助你练习SQL。@pdai
  • SQL语言 - SQL题目进阶
    • 接下来,通过Leetcode上的SQL题目进行进阶吧
  • SQL语言 - SQL语句优化
    • 最后,再总结一些SQL语句的优化建议
SQL DB - MySQL数据库

C. 掌握MySQL数据库:在理解了SQL语言后,开始进阶MySQL相关的知识点吧(在开始前,建议你完整看一本MySQl相关的书,作为你的知识体系基础);这里不会讲如何安装MySQL或者如何使用,因为这是容易的,而是会关注一些有助于我们构建MySQL相关知识体系的知识点等。

  • MySQL - 数据类型
    • 本文主要整理MySQL中数据字段类型。
  • MySQL - 存储引擎
    • 本文主要介绍MySQL中的存储引擎。
  • MySQL - 索引(B+树)
  • MySQL - 性能优化
  • MySQL - 分表分库
  • MySQL - 主从复制与读写分离
  • MySQL - 一条 SQL 的执行过程详解
    • 一条 SQL 的执行过程详解。
NoSQL DB - Redis详解

D. 掌握Redis数据库:在理解了关系型数据库后,开始进阶最为常用的KV库Redis,一些大厂都在使用,面试也必问。

首先,我们通过学习Redis的概念基础,了解它适用的场景。

  • Redis入门 - Redis概念和基础
    • Redis是一种支持key-value等多种数据结构的存储系统。可用于缓存,事件发布或订阅,高速队列等场景。支持网络,提供字符串,哈希,列表,队列,集合结构直接存取,基于内存,可持久化。

其次,这些适用场景都是基于Redis支持的数据类型的,所以我们需要学习它支持的数据类型;同时在redis优化中还需要对底层数据结构了解,所以也需要了解一些底层数据结构的设计和实现。

  • Redis入门 - 数据类型:5种基础数据类型详解
    • Redis所有的key(键)都是字符串。我们在谈基础数据结构时,讨论的是存储值的数据类型,主要包括常见的5种数据类型,分别是:String、List、Set、Zset、Hash
  • Redis入门 - 数据类型:3种特殊类型详解
    • Redis除了上文中5种基础数据类型,还有三种特殊的数据类型,分别是 HyperLogLogs(基数统计), Bitmaps (位图) 和 geospatial (地理位置)
  • Redis入门 - 数据类型:Stream详解
    • Redis5.0 中还增加了一个数据结构Stream,它借鉴了Kafka的设计,是一个新的强大的支持多播的可持久化的消息队列。
  • Redis进阶 - 底层数据结构:对象机制详解
    • 我们在前文已经阐述了Redis 5种基础数据类型详解,分别是字符串(string)、列表(list)、哈希(hash)、集合(set)、有序集合(zset),以及5.0版本中Redis Stream结构详解;那么这些基础类型的底层是如何实现的呢?Redis的每种对象其实都由对象结构(redisObject)对应编码的数据结构组合而成, 本文主要介绍对象结构(redisObject) 部分。。
  • Redis进阶 - 底层数据结构:底层数据结构详解
    • 前文是第一部分底层设计:对象机制详解, 本文主要介绍底层数据结构 部分。
  • Redis进阶 - 底层数据结构:redis对象与编码(底层结构)对应关系详解
    • 在学习完底层数据结构之后,我们终于可以结合前文内容阐述redis对象及编码之间的关系了。

再者,需要学习Redis支持的核心功能,包括持久化,消息,事务,高可用;高可用方面包括,主从,哨兵等;高可拓展方面,比如 分片机制等。

  • Redis进阶 - 持久化:RDB和AOF机制详解
    • 为了防止数据丢失以及服务重启时能够恢复数据,Redis支持数据的持久化,主要分为两种方式,分别是RDB和AOF; 当然实际场景下还会使用这两种的混合模式。
  • Redis进阶 - 消息传递:发布订阅模式详解
    • Redis 发布订阅(pub/sub)是一种消息通信模式:发送者(pub)发送消息,订阅者(sub)接收消息。
  • Redis进阶 - 事件:Redis事件机制详解
    • Redis 采用事件驱动机制来处理大量的网络IO。它并没有使用 libevent 或者 libev 这样的成熟开源方案,而是自己实现一个非常简洁的事件驱动库 ae_event。
  • Redis进阶 - 事务:Redis事务详解
    • Redis 事务的本质是一组命令的集合。事务支持一次执行多个命令,一个事务中所有命令都会被序列化。在事务执行过程,会按照顺序串行化执行队列中的命令,其他客户端提交的命令请求不会插入到事务执行命令序列中。
  • Redis进阶 - 高可用:主从复制详解
    • 我们知道要避免单点故障,即保证高可用,便需要冗余(副本)方式提供集群服务。而Redis 提供了主从库模式,以保证数据副本的一致,主从库之间采用的是读写分离的方式。本文主要阐述Redis的主从复制。
  • Redis进阶 - 高可用:哨兵机制(Redis Sentinel)详解
    • 在上文主从复制的基础上,如果注节点出现故障该怎么办呢?在 Redis 主从集群中,哨兵机制是实现主从库自动切换的关键机制,它有效地解决了主从复制模式下故障转移的问题。
  • Redis进阶 - 高可拓展:分片技术(Redis Cluster)详解
    • 前面两篇文章,主从复制和哨兵机制保障了高可用,就读写分离而言虽然slave节点来扩展主从的读并发能力,但是写能力和存储能力是无法进行扩展的,就只能是master节点能够承载的上限。如果面对海量数据那么必然需要构建master(主节点分片)之间的集群,同时必然需要吸收高可用(主从复制和哨兵机制)能力,即每个master分片节点还需要有slave节点,这是分布式系统中典型的纵向扩展(集群的分片技术)的体现;所以在Redis 3.0版本中对应的设计就是Redis Cluster。

最后,就是具体的实践以及实践中遇到的问题和解决方法了:在不同版本中有不同特性,所以还需要了解版本;以及性能优化,大厂实践等。

  • Redis进阶 - 缓存问题:一致性, 穿击, 穿透, 雪崩, 污染等
    • Redis最常用的一个场景就是作为缓存,本文主要探讨作为缓存,在实践中可能会有哪些问题?比如一致性, 穿击, 穿透, 雪崩, 污染等
  • Redis进阶 - 版本特性: Redis4.0、5.0、6.0特性整理
    • 在学习Redis知识体系时,我们难免会需要查看版本实现之间的差异,本文主要整理Redis较为新的版本的特性。
  • Redis进阶 - 运维监控:Redis的监控详解
    • Redis实战中包含开发,集群 和 运维,Redis用的好不好,如何让它更好,这是运维要做的;本文主要在 Redis自身状态及命令可视化监控工具,以及Redis监控体系等方面帮助你构建对redis运维/监控体系的认知,它是性能优化的前提。
  • Redis进阶 - 性能调优:Redis性能调优详解
    • Redis 的性能问题,涉及到的知识点非常广,几乎涵盖了 CPU、内存、网络、甚至磁盘的方方面面;同时还需要对上文中一些基础或底层有详细的了解。针对Redis的性能调优,这里整理分享一篇水滴与银弹(公众号)的文章,这篇文章可以帮助你构筑Redis性能调优的知识体系。
  • Redis大厂经验 - 微博:万亿级日访问量下,Redis在微博的9年优化历程
    • 再分享一篇微博使用redis的经验的文章,因为Redis在微博内部分布在各个应用场景,比如像现在春晚必争的“红包飞”活动,还有像粉丝数、用户数、阅读数、转评赞、评论盖楼、广告推荐、负反馈、音乐榜单等等都有用到Redis;我们可以通过大厂使用redis的经验来强化对redis使用上的认知。
NoSQL DB - MongoDB详解

E. 掌握MongoDB数据库:在理解了Redis后,让我们认识NoSQL数据库中最为常用的MongoDB;它在后期版本中更换了证书,使用时需要注意下;但是不妨碍我们学习。

MongoDB生态

1. MongoDB引入和生态介绍:首先了解NoSQL基本的概念以及MongoDB基础概念,进而引入MongoDB的生态。

  • Mongo入门 - MongoDB基础概念
    • 在学习MongoDB之前先简单了解相关概念。
  • Mongo入门 - MongoDB整体生态
    • 很多人在学习Mongo时仅仅围绕着数据库功能,围绕着CRUD和聚合操作,但是MongoDB其实已经基本形成了它自身的生态了。我们在学习一项技能时一定要跳出使用的本身,要从高一点的格局上了解整个生态,这样会对你构筑知识体系有很大的帮助。。

2. MongoDB入门 - 基本使用:开始学习MongoDB安装,使用等。

  • Mongo入门 - 基本使用:安装和CRUD
    • 在理解MongoDB基础概念后,本文将介绍MongoDB的安装和最基本的CURD操作。
  • Mongo入门 - 基本使用:索引和聚合
    • 在了解MongoDB的基本CRUD操作后,常用的其它操作还有对字段的索引以及对字段的聚合操作。
  • Mongo入门 - 基本使用:效率工具
    • 本文将主要介绍常用的MongoDB的工具,这些工具可以极大程度的提升你的效率。
  • Mongo入门 - 基本使用:Java 低阶API
    • 本文为低优先级,只是向你介绍下MongoDB提供的原生的JavaAPI;而大多数公司使用Spring框架,会使用Spring Data对MongoDB原生API的封装,比如JPA,MongoTemplate等。
  • Mongo入门 - 基本使用:Spring Data + Mongo
    • 本文为主要介绍Spring Data对MongoDB原生API的封装,比如JPA,MongoTemplate等。以及原生API和Spring data系列之间的关系。

3. MongoDB进阶 - 原理和WiredTigger存储引擎:在学习完常用的基础之后,我们再看下MongoDB的原理和WiredTigger存储引擎。

  • Mongo进阶 - MongoDB体系结构
    • 上面章节已经对MongoDB生态中工具以及使用有了基础,后续文章我们将开始理解MongoDB是如何支撑这些功能的。我们将从最基本的MongoDB的体系结构开始介绍,主要包括MongoDB的包结构MongoDB的数据逻辑结构MongoDB的数据文件结构。其中围绕着MongoDB的数据文件结构,将为我们后续介绍MongoDB的存储引擎详解打下基础。
  • Mongo进阶 - 原理和WiredTiger引擎
    • 开始初步了解MongoDB实现原理和WiredTiger引擎。
  • Mongo进阶 - WT引擎:数据结构
    • MongoDB的WiredTiger存储引擎背后采用了什么样的数据结构呢?本文将从常见引擎数据结构典型B-Tree数据结构磁盘数据结构, 内存数据结构, Page数据结构等方面详解介绍。。
  • Mongo进阶 - WT引擎:Page生命周期
    • 通过前文我们了解到数据以page为单位加载到cache; 有必要系统的分析一页page的生命周期、状态以及相关参数的配置,这对后续MongoDB的性能调优和故障问题的定位和解决有帮助。
  • Mongo进阶 - WT引擎:checkpoint原理
    • Checkpoint主要有两个目的: 一是将内存里面发生修改的数据写到数据文件进行持久化保存,确保数据一致性;二是实现数据库在某个时刻意外发生故障,再次启动时,缩短数据库的恢复时间,WiredTiger存储引擎中的Checkpoint模块就是来实现这个功能的。

4. MongoDB进阶 - 数据库核心知识点:再者我们还学要进一步学习MongoDB的核心知识点。

  • Mongo进阶 - DB核心:索引实现
    • 数据库核心知识点之索引
  • Mongo进阶 - DB核心:复制集
    • 数据库核心知识点之复制集
  • Mongo进阶 - DB核心:分片Sharding
    • 数据库核心知识点之复分片Sharding
  • Mongo进阶 - DB核心:备份恢复
    • 数据库核心知识点之备份恢复

5. MongoDB进阶 - 数据模型设计:在真正使用中,需要知道如何设计数据模型。

  • Mongo进阶 - 系统设计:数据模型
    • MongoDB使用文档数据模型。
  • Mongo进阶 - 系统设计:模式构建
    • MongoDB使用文档数据模型具有内在的灵活性,允许数据模型支持你的应用程序需求, 灵活性也可能导致模式比它们应有样子的更复杂。这涉及到如何在MongoDB中设计数据库模式(schema),有一个严峻的现实,大多数性能问题都可以追溯到糟糕的模式设计。

6. MongoDB进阶 - 性能优化:最后基于上述知识点,我们再了解下常见的性能优化的方式。

  • Mongo进阶 - 性能:查询聚合优化
    • 在MongoDB中通过查询聚合语句分析定位慢查询/聚合分析
NoSQL DB - ElasticSearch

E. 掌握ElasticSearch数据库:在理解了MongoDB后,让我们再学习下搜索的索引库;日志收集ELK栈是非常常见的,同时在一些离线大数据分析中也经常使用。

首先,我们通过学习ElasticSearch的概念基础,了解Elastic Stack生态和场景方案。

  • ES详解 - 认知:ElasticSearch基础概念
    • 在学习ElasticSearch之前,先简单了解下ES流行度,使用背景,以及相关概念等
  • ES详解 - 认知:Elastic Stack生态和场景方案
    • 在了解ElaticSearch之后,我们还要了解Elastic背后的生态即我们常说的ELK;与此同时,还会给你展示ElasticSearch的案例场景,让你在学习ES前对它有个全局的印象。

然后,搭建ElasticSearch和Kibana,进而从查询和聚合的角度入门学习。

  • ES详解 - 安装:ElasticSearch和Kibana安装
    • 了解完ElasticSearch基础和Elastic Stack生态后,我们便可以开始学习使用ElastiSearch了。所以本文主要介绍ElasticSearch和Kibana的安装。
  • ES详解 - 入门:查询和聚合的基础使用
    • 安装完ElasticSearch 和 Kibana后,为了快速上手,我们通过官网GitHub提供的一个数据进行入门学习,主要包括查询数据聚合数据

入门后,需要从两大方面深入ElasticSearch常用功能:第一方面是索引管理;第二方面是查询聚合

  • ES详解 - 索引:索引管理详解
    • 了解基本使用后,我们从索引操作的角度看看如何对索引进行管理。
  • ES详解 - 索引:索引模板(Index Template)详解
    • 前文介绍了索引的一些操作,特别是手动创建索引,但是批量和脚本化必然需要提供一种模板方式快速构建和管理索引,这就是本文要介绍的索引模板(Index Template),它是一种告诉Elasticsearch在创建索引时如何配置索引的方法。为了更好的复用性,在7.8中还引入了组件模板。
  • ES详解 - 查询:DSL查询之复合查询详解
    • 在查询中会有多种条件组合的查询,在ElasticSearch中叫复合查询。它提供了5种复合查询方式:bool query(布尔查询)boosting query(提高查询)constant_score(固定分数查询)dis_max(最佳匹配查询)function_score(函数查询)
  • ES详解 - 查询:DSL查询之全文搜索详解
    • DSL查询极为常用的是对文本进行搜索,我们叫全文搜索,本文主要对全文搜索进行详解。
  • ES详解 - 查询:DSL查询之Term详解
    • DSL查询另一种极为常用的是对词项进行搜索,官方文档中叫”term level“查询,本文主要对term level搜索进行详解。
  • ES详解 - 聚合:聚合查询之Bucket聚合详解
    • 除了查询之外,最常用的聚合了,ElasticSearch提供了三种聚合方式:桶聚合(Bucket Aggregration)指标聚合(Metric Aggregration)管道聚合(Pipline Aggregration),本文主要介绍桶聚合(Bucket Aggregration)。
  • ES详解 - 聚合:聚合查询之Metric聚合详解
    • 前文主要讲了 ElasticSearch提供的三种聚合方式之桶聚合(Bucket Aggregration),本文主要讲讲指标聚合(Metric Aggregration)。
  • ES详解 - 聚合:聚合查询之Pipline聚合详解
    • 前文主要讲了 ElasticSearch提供的三种聚合方式之指标聚合(Metric Aggregration),本文主要讲讲管道聚合(Pipeline Aggregration)。

进一步进阶,了解并深入ElasticSearch底层的原理等。

  • ES详解 - 原理:从图解构筑对ES原理的初步认知
    • 在学习ElasticSearch原理时,我推荐你先通过官方博客中的一篇图解文章(虽然是基于2.x版本)来构筑对ES的初步认知(这种认识是体系上的快速认知)。
  • ES详解 - 原理:ES原理知识点补充和整体结构
    • 通过上文图解了解了ES整体的原理后,我们便可以基于此知识体系下梳理下ES的整体结构以及相关的知识点, 这将帮助你更好的ElasticSearch索引文档和搜索文档的原理。
  • ES详解 - 原理:ES原理之索引文档流程详解
    • ElasticSearch中最重要原理是文档的索引和文档的读取,本文带你理解ES文档的索引过程。
  • ES详解 - 原理:ES原理之读取文档流程详解
    • ElasticSearch中最重要原理是文档的索引和文档的读取,前文介绍了索引文档流程,本文带你理解ES文档的读取过程。

最后,学习ElasticSearch实践,大厂经验,运维,资料等。

  • ES详解 - 优化:ElasticSearch性能优化详解
    • Elasticsearch 作为一个开箱即用的产品,在生产环境上线之后,我们其实不一定能确保其的性能和稳定性。如何根据实际情况提高服务的性能,其实有很多技巧。这章我们分享从实战经验中总结出来的 elasticsearch 性能优化,主要从硬件配置优化、索引优化设置、查询方面优化、数据结构优化、集群架构优化等方面讲解。
  • ES详解 - 大厂实践:腾讯万亿级 Elasticsearch 技术实践
  • ElasticSearch - 备份和迁移

更多关于Java技术栈的技术文章、技术资源(文档、视频)、以及各咱企业面试题,可以扫码关注民工哥技术之路公众号,回复关键字 1024 获取全部分享的技术资源。

开发与常用基础

开发之常用类库

A. 开发之常用类库:区别于学习,在开发应用时正确使用一些开源第三方工具包可以极大的提升开发效率,本章主要介绍运用极为广泛的工具包,比如Apache Common,Google Guava,Hutool等。

  • 常用类库 - Apache Common包
    • 工具类第一选择1 - Apache common包不仅被成千上万开源工具使用,更是学习Java编程比较好的代码参考工具,效率工具。
  • 常用类库 - Google Guava包
    • 工具类第一选择2- Google出品,必属精品。
  • 常用类库 - Hutool包
    • 国产的工具类库,有点是比较全,也比较实用;选它要注意下它的协议是中国第一个开源协议木兰宽松许可证, 第1版 (opens new window),商业型项目最好咨询下相关法务部门。
  • 常用类库 - Spring常用工具类
    • Spring作为常用的开发框架,在Spring框架应用中,排在ApacheCommon,Guava, Huool等通用库后,第二优先级可以考虑使用Spring-core-xxx.jar中的util包。
  • 常用类库 - 日志相关类库详解
    • Java日志库是最能体现Java库在进化中的渊源关系的,在理解时重点理解日志框架本身和日志门面,以及比较好的实践等。要关注其历史渊源和设计(比如桥接),而具体在使用时查询接口即可。
  • 常用类库 - JSON类库详解
    • JSON应用非常广泛,对常用对FastJson,Jackson和Gson作了具体阐述;其中考虑到FastJson代码质量,漏洞,坑等等,应该尽量避免使用。
  • 常用类库 - Lombok工具库详解
    • Lombok是一款非常实用Java工具,可用来帮助开发人员消除Java的冗长代码,尤其是对于简单的Java对象(POJO)。实际上我并不推荐使用Lombok(不主动使用它), 但是因为它有着很大的使用量,我们仍然有必要掌握它,不仅知道如何使用和它解决的问题,还要知道它的坑。
  • 常用类库 - MapStruct工具库详解
    • MapStruct是一款非常实用Java工具,主要用于解决对象之间的拷贝问题,比如PO/DTO/VO/QueryParam之间的转换问题。区别于BeanUtils这种通过反射,它通过编译器编译生成常规方法,将可以很大程度上提升效率。
  • 常用类库 - 其它常用类库
    • 其它常用类库体系很庞大,但是工具类的原则是只需要查找会使用即可。
开发之代码质量保障

B1. 开发之单元测试:单元测试是从开发侧保证软件质量的第一步,本章将具体介绍单元测试相关的内容和工具,比如Junit,Mockito等。

  • 单元测试:浅谈单元测试
    • 单元测试(unit testing),是指对软件中的最小可测试单元进行检查和验证。这是基础,所以围绕着单元测试,我从网上搜集和总结了相关的概念,以助你完善体系。
  • 单元测试:Junit4 详解
    • JUint是Java编程语言的单元测试框架,用于编写和运行可重复的自动化测试。本文主要针对Junit4要点进行梳理总结。
  • 单元测试:Junit5 详解
    • JUnit 5是JUnit的下一代。目标是为JVM上的开发人员端测试创建一个最新的基础。这包括专注于Java 8及更高版本,以及启用许多不同风格的测试。
  • 单元测试:Mockito 详解
    • Mock通常是指,在测试一个对象A时,我们构造一些假的对象来模拟与A之间的交互,而这些Mock对象的行为是我们事先设定且符合预期。通过这些Mock对象来测试A在正常逻辑,异常逻辑或压力情况下工作是否正常。而Mockito是最流行的Java mock框架之一。
  • 单元测试:IDEA下单元测试详解
    • 工欲善其事必先利其器,我们在写单元测试一定要使用工具,这将能大幅度提升编码的效率。本文以IDEA为例,看看如何利用插件提升效率。
  • 单元测试 - SpringBoot2+Mockito实战
    • 在真实的开发中,我们通常是使用SpringBoot的,目前SpringBoot是v2.4.x的版本(SpringBoot 2.2.2.RELEASE之前默认是使用 JUnit4,之后版本默认使用Junit5);所以我们写个基于SpringBoot2.4+H2的内存库的简单例子,同时加点必要的单元测试。

B2. 开发之代码质量:项目的代码通常是一个团队共同完成的,要保障代码质量的首要前提就是统一代码的风格,命名规范,静态代码检查等等。

  • 代码质量 - 统一风格:统一代码格式化详解
    • 项目的代码通常是一个团队共同完成的,要保障代码质量的首要前提就是统一代码的风格,本文将介绍常用的统一风格的措施之统一代码格式化
  • 代码质量 - 统一风格:统一命名规范详解
    • 好的代码本身就是注释, 所以我们需要统一命名风格,本文将介绍常用的统一风格的措施之统一命名规范
  • 代码质量 - 统一风格:静态样式检查详解
    • 统一样式检查规范里,最为常用的统一样式工具是checkstyle插件,本文将介绍常用的统一风格的措施之静态样式检查
  • 代码质量 - 代码质量管理: Sonarlint插件详解
    • 在提交代码前,为提升代码质量还需要使用一些静态代码工具检查代码质量,最为常用的是Sonar;在本地IDE中可以配置Sonarlint插件进行检查。
  • 代码质量 - 代码质量管理: SpotBugs插件详解
    • SpotBugs是Findbugs的继任者(Findbugs已经于2016年后不再维护),用于对代码进行静态分析,查找相关的漏洞;在本地IDE中可以配置SpotBugs插件进行检查。
开发之正则表达式

C. 开发之正则表达式:正则表达式运用极为广泛,但是知识点又多;在学习时,总体上理解,对常用的知悉,开发时可以快速查询使用即可。

  • 正则表达式 - 知识点学习
    • 正则表达式的语法知识点
  • 正则表达式 - 常用正则表达式
    • 常用的正则表达式,供使用时查询
  • 正则表达式 - 在线工具汇总
    • 主要总结常用的在线正则表达式相关的工具,从而高效的写出正确的表达式。
开发之网络协议

D. 开发之网络协议:对Web开发而言,网络协议是必学项,本章主要对常见的网络协议进行梳理,并重点分析常用TCP/IP协议等,这篇网络基础和协议 - Overview将指导你如何学习这个系列。

第一步:学习计算机网络基础;构筑任何基础体系之前,需要学习这个专题的整体知识点(最好是一本完整的书),这里主要基于《计算机网络(第五版)》知识点梳理,不得不说这本书作者谢希仁画的PPT还是挺棒的。网络基础分三部分内容,主要包含如下:

  • 网络基础之一 - 计算机网络基础部分梳理
    • 网络基础的第一篇,主要来源于大学的课程《计算机网络(第五版)》知识点梳理,内容整理自这里 (opens new window), 但是作了调整和优化; 不得不说这本书作者谢希仁画的PPT还是挺棒的。
  • 网络基础之二 - 网络7层协议,4层,5层
    • 网络基础的第二篇,我觉的一定要有全局框架观,构建全局观时建议分三步:第一步,理解全局的网络层次;第二步,理解每一层次中的常见的网络设备及功能;第三步,理解每一层中的常见协议。在此基础上,将其它知识点放置在相应的层次(很多网络上的零散知识点是没法帮你构筑完整的知识体系的,推荐你完整的看一本关于网络的书籍来构筑基础)
  • 网络基础之三 - IP 协议相关详解
    • 网络基础第三篇,主要阐述:IP协议(在网络层)及其配套协议(在数据链路层的ARP协议,在网络层的ICMP,IGMP协议,IPV6详解,网络地址转换 NAT等。

第二步:学习传输层协议TCP/UDP;TCP/UDP是后面应用层协议的基础。

  • 网络协议 - TCP 协议详解
    • TCP是一个巨复杂的协议,关于TCP这个协议的细节,我还是推荐你去看W.Richard Stevens的《TCP/IP 详解 卷1:协议》 (opens new window)。全网上讲TCP/IP的文章众多,多数是皮毛;本文梳理自 左耳朵耗子的文章《TCP 的那些事儿》 (opens new window),来帮助大家理解TCP/IP, 其中引用的图片在这里 (opens new window)
  • 网络协议 - UDP 协议详解
    • 基于TCP和UDP的协议非常广泛,所以也有必要对UDP协议进行详解

第三步:学习应用层协议;HTTP 基于TCP协议实现,web开发必学;DNS 基于UDP协议实现。

  • 网络协议 - HTTP 协议详解
    • HTTP 协议详解,web开发必备
  • 网络协议 - DNS 相关详解
    • DNS的核心工作就是将域名翻译成计算机IP地址, 它是基于UDP协议实现的,本文将具体阐述DNS相关的概念,解析,调度原理(负载均衡和区域调度)等DNS相关的所有知识点

第四步:知识点贯穿理解

  • 知识点串联:输入URL 到页面加载过程详解
    • 第一,将前面涉及网络协议特别是TCP协议HTTP协议DNS解析等等知识点贯穿;
    • 第二,在此基础上介绍浏览器渲染过程,以及为Web优化提供基础。

第五步:相关工具等

  • 工具: netstat查看服务及监听端口详解
    • 在Linux使用过程中,需要了解当前系统开放了哪些端口,并且要查看开放这些端口的具体进程和用户,可以通过netstat命令进行简单查询。
  • 工具: 网络抓包神器 tcpdump 使用详解
    • tcpdump 是一款强大的网络抓包工具,它使用 libpcap 库来抓取网络数据包,这个库在几乎在所有的 Linux/Unix 中都有。熟悉 tcpdump 的使用能够帮助你分析调试网络数据,本文将通过一个个具体的示例来介绍它在不同场景下的使用方法。。
  • 工具: Wireshark介绍及抓包分析
    • Wireshark(前称Ethereal)是一个网络封包分析软件.网络管理员使用Wireshark来检测网络问题,网络安全工程师使用Wireshark来检查资讯安全相关问题,开发者使用Wireshark来为新的通讯协定除错,普通使用者使用Wireshark来学习网络协定的相关知识。
开发之安全相关

E. 开发之安全相关:保障开发出的软件安全是非常重要的,本章主要对开发知识体系,OWASP Top 10梳理,以及对常见的漏洞进行详解; 这篇开发安全 - Overview将指导你如何学习这个系列。

第一步:业内趋势和常见漏洞;在学习安全需要总体了解安全趋势和常见的Web漏洞,首推了解OWASP,因为它代表着业内Web安全漏洞的趋势

  • 开发安全 - OWASP Top 10

第二步:重点知识点详解;这里将具体对常见对几种攻击方式进行阐述,包括注入攻击,CSRF,XSS等。

  • 开发安全 - 注入攻击详解
    • 注入攻击最为常见的攻击方式,作为开发而言必须完全避免; 本文会介绍常见的几种注入方式,比如:SQL 注入, xPath 注入, 命令注入, LDAP注入, CLRF注入, Host头注入, Email头注入等等,总结来看其本质其实是一样的,且防御措施也大同小异。
  • 开发安全 - CSRF 详解
    • CSRF(Cross-site request forgery跨站请求伪造,也被称成为“one click attack”或者session riding,通常缩写为CSRF或者XSRF,是一种对网站的恶意利用。
  • 开发安全 - XSS 详解
    • XSS是跨站脚本攻击(Cross Site Scripting),为不和层叠样式表(Cascading Style Sheets, CSS)的缩写混淆,故将跨站脚本攻击缩写为XSS。恶意攻击者往Web页面里插入恶意Script代码,当用户浏览该页之时,嵌入其中Web里面的Script代码会被执行,从而达到恶意攻击用户的目的
  • 开发安全 - DDoS 详解
    • 分布式拒绝服务攻击(英文意思是Distributed Denial of Service,简称DDoS)是指处于不同位置的多个攻击者同时向一个或数个目标发动攻击,或者一个攻击者控制了位于不同位置的多台机器并利用这些机器对受害者同时实施攻击。由于攻击的发出点是分布在不同地方的,这类攻击称为分布式拒绝服务攻击,其中的攻击者可以有多个
  • 开发安全 - 点击劫持详解
    • 点击劫持其实是一种视觉上的欺骗手段,攻击者将一个透明的、不可见的iframe覆盖在一个网页上,通过调整iframe页面位置,诱使用户在页面上进行操作,在不知情的情况下用户的点击恰好是点击在iframe页面的一些功能按钮上

第三步:学习和实践:一个比较好对学习常见web漏洞的平台 - Web安全测试平台(DVMA)

  • 开发安全实战 - Web安全测试平台(DVMA)
    • DVWA(Damn Vulnerable Web Application)是一个用来进行安全脆弱性鉴定的PHP/MySQL Web应用,旨在为安全专业人员测试自己的专业技能和工具提供合法的环境,帮助web开发者更好的理解web应用安全防范的过程。

第四步:渗透测试:用渗透测试的整个流程,帮你理解项目发布时安全团队如何做渗透测试来尽量避免漏洞

  • 开发安全实战 - 渗透测试流程示例
    • 在应用程序上线之前,都会进行多次内部或者外部的渗透测试。对于开发而言,有必要了解下渗透测试的整体流程,从而知己知彼,避免一些开发中的问题

Spring 框架

Spring基础
  • Spring 资料汇总
  • Spring MVC
  • Spring Bean 生命周期
  • Spring AOP 实现原理
Spring Boot入门
  • Spring Boot - Helloworld
    • 使用Intelli IDEA写一个SpringBoot的HelloWorld
  • Spring Boot - Swagger UI
    • 本例也是一个Spring Boot的Hello World 应用。包含, 对用户基本数据增删查改,JPA,H2,Swagger
  • Spring Boot - Logback配置日志
    • 出于性能等原因,Logback 目前是springboot应用日志的标配;当然有时候在生产环境中也会考虑和三方中间件采用统一处理方式
  • Spring Boot - ORM Mybatis
    • 国内使用MyBatis还是挺多的,本例展示通过注解方式连接MyBatis
  • Spring Boot - MongoDB CRUD
    • 本例展示一个Mongo CURD 的Demo, 由于我在springboot多数据源示例中已经使用了JPA形式的MongoRepository,所以在这个例子中我将只展示使用MongoTemplate(MongoOptions)方式
  • Spring Boot - Elatiscsearch CRUD
    • 本例展示一个ElasticSearch CURD 的Demo
  • Spring Boot - Thymeleaf
    • 在开发一个小项目的时候,使用的是Spring Boot,Spring Boot 官方推荐的前端模板是thymeleaf, 花了两天时间将官方的文档看完并总结了下知识体系结构
  • Spring Boot - Websocket Demo
    • 从网上找的Websocket Demo例子
  • Spring Boot - 访问外部接口
    • 在Spring-Boot项目开发中,存在着本模块的代码需要访问外面模块接口,或外部url链接的需求, 比如调用外部的地图API或者天气API
  • Spring Boot - 实现API限流
    • 高并发的三板斧: 缓存,降级和限流。本文只是关于限流的一个Demo,限流可以有很多方式,具体可以看分布式限流的章节
  • Spring Boot - 分布式quartz任务管理
    • 通常我们使用quartz只是实现job单实例运行,本例将展示quartz实现基于数据库的分布式任务管理,和控制job生命周期
Spring Boot进阶
  • Spring Boot - 多个数据源Service层封装
    • mysql, es, mongodb 三个数据源用配置文件方式连接,JPA只是正对dao做了封装,本文主要介绍如何对service层进行封装
  • Spring Boot - java 注解
    • 本文主要介绍一些SpringBoot中常用的注解
  • Spring Boot - 使用第三方Jar
    • 在项目中我们经常需要使用第三方的Jar,出现这种情况的原因在于,即便我们有Nexus或者其他Artifactory,这里介绍两种方案
  • Spring Boot - 自定义Starter封装
    • 在Springboot封装一个自定义的Starter的一个Demo,从创建一个模块->封装starter->使用
  • Spring Boot - JavaFX 2.0应用

以上内容来自:https://www.pdai.tech/md/outline/x-outline.html

Spring Cloud
  • Spring Cloud入门-十分钟了解Spring Cloud
  • Spring Cloud入门-Eureka服务注册与发现(Hoxton版本)
  • Spring Cloud入门-Ribbon服务消费者(Hoxton版本)
  • Spring Cloud入门-Hystrix断路器(Hoxton版本)
  • Spring Cloud入门-Hystrix Dashboard与Turbine断路器监控(Hoxton版本)
  • Spring Cloud入门-OpenFeign服务消费者(Hoxton版本)
  • Spring Cloud入门-Zuul服务网关(Hoxton版本)
  • Spring Cloud入门-Config分布式配置中心(Hoxton版本)
  • Spring Cloud入门-Bus消息总线(Hoxton版本)
  • Spring Cloud入门-Sleuth服务链路跟踪(Hoxton版本)
  • Spring Cloud入门-Consul服务注册发现与配置中心(Hoxton版本)
  • Spring Cloud入门-Gateway服务网关(Hoxton版本)
  • Spring Cloud入门-Admin服务监控中心(Hoxton版本)
  • Spring Cloud入门-Oauth2授权的使用(Hoxton版本)
  • Spring Cloud入门-Oauth2授权之JWT集成(Hoxton版本)
  • Spring Cloud入门-Oauth2授权之基于JWT完成单点登录(Hoxton版本
  • Spring Cloud入门-Nacos实现注册和配置中心(Hoxton版本)
  • Spring Cloud入门-Sentinel实现服务限流、熔断与降级(Hoxton版本)
  • Spring Cloud入门-Seata处理分布式事务问题(Hoxton版本)

企业面试题

Java面试总结汇总,整理了包括Java基础知识,集合容器,并发编程,JVM,常用开源框架Spring,MyBatis,数据库,中间件等,包含了作为一个Java工程师在面试中需要用到或者可能用到的绝大部分知识。

Web容器 - Tomcat详解

初始化和启动流程

  • Tomcat - 如何设计一个简单的web容器
    • 在学习Tomcat前,很多人先入为主的对它的认知是巨复杂的;所以第一步,在学习它之前,要打破这种观念,我们通过学习如何设计一个最基本的web容器来看它需要考虑什么;进而在真正学习Tomcat时,多把重点放在它的顶层设计上,而不是某一块代码上, 思路永远比具体实现重要的多。
  • Tomcat - 理解Tomcat架构设计
    • 前文我们已经介绍了一个简单的Servlet容器是如何设计出来,我们就可以开始正式学习Tomcat了,在学习开始,我们有必要站在高点去看看Tomcat的架构设计。
  • Tomcat - 源码分析准备和分析入口
    • 上文我们介绍了Tomcat的架构设计,接下来我们便可以下载源码以及寻找源码入口了。
  • Tomcat - 启动过程:初始化和启动流程
    • 在有了Tomcat架构设计和源码入口以后,我们便可以开始真正读源码了。
  • Tomcat - 启动过程:类加载机制详解
    • 上文我们讲了Tomcat在初始化时会初始化classLoader。本文将具体分析Tomcat的类加载机制,特别是区别于传统的双亲委派模型的加载机制。
  • Tomcat - 启动过程:Catalina的加载
    • 通过前两篇文章,我们知道了Tomcat的类加载机制和整体的组件加载流程;我们也知道通过Bootstrap初始化的catalinaClassLoader加载了Catalina,那么进而引入了一个问题就是Catalina是如何加载的呢?加载了什么呢?本文将带你进一步分析。
  • Tomcat - 组件生命周期管理:LifeCycle
    • 上文中,我们已经知道Catalina初始化了Server(它调用了 Server 类的 init 和 start 方法来启动 Tomcat);你会发现Server是Tomcat的配置文件server.xml的顶层元素,那这个阶段其实我们已经进入到Tomcat内部组件的详解;这时候有一个问题,这么多组件是如何管理它的生命周期的呢?
  • Tomcat - 组件拓展管理:JMX和MBean
    • 我们在前文中讲Lifecycle以及组件,怎么会突然讲JMX和MBean呢?本文通过承接上文Lifecycle讲Tomcat基于JMX的实现。
  • Tomcat - 事件的监听机制:观察者模式
    • 本文承接上文中Lifecycle中实现,引出Tomcat的监听机制。
  • Tomcat - Server的设计和实现: StandardServer
    • 基于前面的几篇文章,我们终于可以总体上梳理Server的具体实现了,这里体现在StandardServer具体的功能实现上。
  • Tomcat - Service的设计和实现: StandardService
    • 上文讲了Server的具体实现了,本文主要讲Service的设计和实现;我们从上文其实已经知道Server中包含多个service了。
  • Tomcat - 线程池的设计与实现:StandardThreadExecutor
    • 上文中我们研究了下Service的设计和实现,StandardService中包含Executor的调用;这个比较好理解,Tomcat需要并发处理用户的请求,自然而言就想到线程池,那么Tomcat中线程池(Executor)具体是如何实现的?本文带你继续深度解析。
  • Tomcat - Request请求处理: Container设计
    • 在理解了Server,Service和Executor后,我们可以进入Request处理环节了。我们知道客户端是可以发起多个请求的,Tomcat也是可以支持多个webapp的,有多个上下文,且一个webapp中可以有多个Servlet...等等,那么Tomcat是如何设计组件来支撑请求处理的呢?本节文将介绍Tomcat的Container设计。
  • Tomcat - Container容器之Engine:StandardEngine
    • 上文已经知道Container的整体结构和设计,其中Engine其实就是Servlet Engine,负责处理request的顶层容器。
  • Tomcat - Container的管道机制:责任链模式
    • 上文中介绍了Engine的设计,其中有Pipline相关内容没有介绍,本文将向你阐述Tomcat的管道机制以及它要解决的问题。
  • Tomcat - Request请求处理过程:Connector
    • 本文主要介绍request请求的处理过程。

ORM - MyBatis详解

  • MyBatis详解 - 总体框架设计
    • MyBatis整体架构包含哪些层呢?这些层次是如何设计的呢?
  • MyBatis详解 - 初始化基本过程
    • 从上文我们知道MyBatis和数据库的交互有两种方式有Java API和Mapper接口两种,所以MyBatis的初始化必然也有两种;那么MyBatis是如何初始化的呢?
  • MyBatis详解 - 配置解析过程
    • 【本文为中优先级】通过上文我们知道MyBatis初始化过程中会解析配置,那具体是如何解析的呢?
  • MyBatis详解 - 官网配置清单
    • 【本文为低优先级】通过上文我们知道配置是如何加载并初始化的,那MyBatis提供了哪些配置呢?通过MyBatis官网文档我们一探究竟。PS:对于清单型的,只需要大致浏览且在使用时能快速查找即可,所以是低优先级的。
  • MyBatis详解 - Mapper映射文件配置
    • 在mapper文件中,以mapper作为根节点,其下面可以配置的元素节点有:select, insert, update, delete, cache, cache-ref, resultMap, sql; 本文将Mapper映射文件配置进行详解。
  • MyBatis详解 - sqlSession执行流程
    • 前面的章节主要讲mybatis如何解析配置文件,这些都是一次性的过程。从本章开始讲解动态的过程,它们跟应用程序对mybatis的调用密切相关。
  • MyBatis详解 - 动态SQL使用与原理
    • 动态 SQL 是 MyBatis 的强大特性之一。如果你使用过 JDBC 或其它类似的框架,你应该能理解根据不同条件拼接 SQL 语句有多痛苦,例如拼接时要确保不能忘记添加必要的空格,还要注意去掉列表最后一个列名的逗号。利用动态 SQL,可以彻底摆脱这种痛苦
  • MyBatis详解 - 插件机制
    • MyBatis提供了一种插件(plugin)的功能,虽然叫做插件,但其实这是拦截器功能。那么拦截器拦截MyBatis中的哪些内容呢?
  • MyBatis详解 - 插件之分页机制
    • Mybatis的分页功能很弱,它是基于内存的分页(查出所有记录再按偏移量和limit取结果),在大数据量的情况下这样的分页基本上是没有用的。本文基于插件,通过拦截StatementHandler重写sql语句,实现数据库的物理分页
  • MyBatis详解 - 数据源与连接池
    • 本文主要介绍MyBatis数据源和连接池相关的内容。
  • MyBatis详解 - 事务管理机制
    • 本文主要介绍MyBatis事务管理相关的使用和机制。
  • MyBatis详解 - 一级缓存实现机制
    • 减少资源的浪费,MyBatis会在表示会话的SqlSession对象中建立一个简单的缓存,将每次查询到的结果结果缓存起来,当下次查询的时候,如果判断先前有个完全一样的查询,会直接从缓存中直接将结果取出,返回给用户,不需要再进行一次数据库查询了。
  • MyBatis详解 - 二级缓存实现机制
    • MyBatis的二级缓存是Application级别的缓存,它可以提高对数据库查询的效率,以提高应用的性能。

开发百宝箱(常用资源)

  • 开发百宝箱

开发工具清单

  • 工具清单 - Overview
  • 工具清单 - 项目管理
  • 工具清单 - IDE工具
  • 工具清单 - 看板工具
  • 工具清单 - Bug追踪管理
  • 工具清单 - CI & CD
  • 工具清单 - API管理
  • 工具清单 - 监控工具
  • 工具清单 - 文档/Wiki/Notes
  • 工具清单 - 文件管理和共享

开发工具详解

  • 常用软件工具
  • 工具详解 - Git
    • Git是分布式代码托管的标杆,这里将提供如何学习Git,以及Git工作流的总结,和常用的操作命令
  • 工具详解 - Eclipse,STS,IDEA
    • 本文总结常用的IDE工具
  • 工具详解 - Maven项目构建
    • 在Java开发中,常用构建工具ant,maven和gradle, 其中maven相对主流;本文参考和总结自这里 (opens new window) , 对maven的理解看这一篇就够
  • 工具详解 - Jenkins+Gitlab
    • 使用Jenkins+Gitlab搭建CI环境

Linux相关

  • Linux - Linux基础知识
    • Linux基础知识学习梳理
  • Linux - Linux 常用
    • 本文记录常用的Linux命令, 主要使用CentOS7
  • Linux - Curl使用
    • 主要总结Linux Curl的一些常见用法
  • Linux - Linux创建自建服务
    • 以打包自己开发的Java应用到Linux服务器,作为一个服务启动,并开启自启。

Docker相关

  • Docker - Overview
  • 虚拟化技术 - Docker Vs. 虚拟机
    • 人们为了提高系统及硬件资源的利用率而引入了虚拟化技术。虚拟化是一种资源管理技术,它可以各种实体资源抽像后再分隔,从而打破实体结构的限制,最大程度的提高资源的利用率。Docker属于软件虚拟化技术中的操作系统层虚拟化技术,它是基于LXC实现的一个应用容器引擎,Docker让开发者可以打包他们的应用及依赖环境到一个可移植的容器中,然后可以将这个容器快速部署开发、测试或生产环境中。了解本文从三个问题着手,什么是虚拟化技术,docker和虚拟机区别,docker可以用来做什么?
  • Docker基础 - 入门基础和Helloworld
    • 在了解了虚拟化技术和Docker之后,让我们上手Docker,看看Docker是怎么工作的。这里会介绍CentOS环境下Docker的安装和配置,以及会给你展示两个实例,给你一个直观的理解。再啰嗦下,有条件的情况下直接看官网 (opens new window), 网上资料鱼龙混杂,版本也更新不及时。
  • Docker基础 - 仓库,镜像,容器详解
    • 本文将从仓库,镜像,容器三个方面讲解常用的docker命令和使用等,对于开发而言这块使用的
  • Docker基础 - 一个web应用运行实例
    • 通过上文我们已经基本了解了docker的结构(仓库,镜像,容器)以及跑docker应用了;本文将通过介绍一个web应用:向你展示如何进行主机与web容器之间的通信,这是web开发者常用的;第二,贯穿上文中内容, 且为我们后续讲解网络提供基础
  • Docker基础 - Docker网络使用和配置
    • 上文已经向你介绍了,web容器创建和容器互联了,但是容器之间为什么可以直接通信?主机和容器之间为何可以通信?如何进行自定义的配置呢?所以这节就是我们要讲述的Docker网络。
  • Docker基础 - Docker数据卷和数据管理
    • Docker 容器的数据放哪里呢?本文带你理解如何在 Docker 内部以及容器之间管理数据。

开发原则,流程,协议

  • 软件开发中的原则 - SOLID
    • 在软件开发中,前人对软件系统的设计和开发总结了一些原则和模式, 不管用什么语言做开发,都将对我们系统设计和开发提供指导意义。本文主要将总结这些常见的原则,和具体阐述意义。
  • 分布式理论 - CAP
    • CAP理论是分布式系统、特别是分布式存储领域中被讨论的最多的理论。其中C代表一致性 (Consistency),A代表可用性 (Availability),P代表分区容错性 (Partition tolerance)。CAP理论告诉我们C、A、P三者不能同时满足,最多只能满足其中两个。
  • 分布式理论 - BASE
    • BASE是“Basically Available, Soft state, Eventually consistent(基本可用、软状态、最终一致性)”的首字母缩写。其中的软状态和最终一致性这两种技巧擅于对付存在分区的场合,并因此提高了可用性。
  • 事务理论 - ACID
    • 事务的四个基本特性
  • 康威定律 - 微服务基础
    • 微服务这个概念很早就提出了, 真正火起来是在2016年左右,而康威定律(Conway's Law)就是微服务理论基础。本文整理自肥侠的文章, 帮助大家理解微服务理论体系
  • 开发流程详解
    • 谈谈我常见的敏捷开发流程的理解
  • 开源协议详解
    • 开源不等于免费!为了加速我们的开发,我们会使用开源的软件和源码;为避免商业风险,需要在使用时了解第三方如软件协议,版本,和已知CVE风险等;本文旨在从开源软件再发布过程使用权限的角度入手,总结各个常见开源协议的异同,方便理解。
  • 知识共享协议CC 4.0
    • 本文主要介绍知识共享许可协议,及本站遵守的多数站点会采用的知识共享协议CC BY-NC-SA 4.0协议,即署名-非商业性使用-相同方式共享协议。

代码规范

  • 阿里巴巴 Java 开发手册
  • Twitter Java Style Guide

设计模式

在软件开发中,前人对软件系统的设计和开发总结了一些原则和模式, 不管用什么语言做开发,都将对我们系统设计和开发提供指导意义。本文主要将对24种设计模式和7个设计原则进行总结,和具体阐述意义。你可以通过这篇文章设计模式 - Overview 了解整体上的知识点。

第一步:创建型设计模式

  • 创建型 - 单例模式(Singleton pattern)
    • 单例模式(Singleton pattern): 确保一个类只有一个实例,并提供该实例的全局访问点, 本文介绍6中常用的实现方式
  • 创建型 - 简单工厂(Simple Factory)
    • 简单工厂(Simple Factory),它把实例化的操作单独放到一个类中,这个类就成为简单工厂类,让简单工厂类来决定应该用哪个具体子类来实例化,这样做能把客户类和具体子类的实现解耦,客户类不再需要知道有哪些子类以及应当实例化哪个子类
  • 创建型 - 工厂方法(Factory Method)
    • 工厂方法(Factory Method),它定义了一个创建对象的接口,但由子类决定要实例化哪个类。工厂方法把实例化操作推迟到子类
  • 创建型 - 抽象工厂(Abstract Factory)
    • 抽象工厂(Abstract Factory),抽象工厂模式创建的是对象家族,也就是很多对象而不是一个对象,并且这些对象是相关的,也就是说必须一起创建出来。而工厂方法模式只是用于创建一个对象,这和抽象工厂模式有很大不同
  • 创建型 - 生成器(Builder)
    • 生成器(Builder),封装一个对象的构造过程,并允许按步骤构造
  • 创建型 - 原型模式(Prototype)
    • 原型模式(Prototype),使用原型实例指定要创建对象的类型,通过复制这个原型来创建新对象

第二步:结构型设计模式

  • 结构型 - 外观(Facade)
    • 外观模式(Facade pattern),它提供了一个统一的接口,用来访问子系统中的一群接口,从而让子系统更容易使用
  • 结构型 - 适配器(Adapter)
    • 适配器模式(Adapter pattern): 将一个类的接口, 转换成客户期望的另一个接口。适配器让原本接口不兼容的类可以合作无间。对象适配器使用组合, 类适配器使用多重继承
  • 结构型 - 桥接(Bridge)
    • 桥接模式(Bridge pattern): 使用桥接模式通过将实现和抽象放在两个不同的类层次中而使它们可以独立改变
  • 结构型 - 组合(Composite)
    • 组合模式(composite pattern): 允许你将对象组合成树形结构来表现"整体/部分"层次结构. 组合能让客户以一致的方式处理个别对象以及对象组合
  • 结构型 - 装饰(Decorator)
    • 装饰者模式(decorator pattern): 动态地将责任附加到对象上, 若要扩展功能, 装饰者提供了比继承更有弹性的替代方案
  • 结构型 - 享元(Flyweight)
    • 享元模式(Flyweight Pattern): 利用共享的方式来支持大量细粒度的对象,这些对象一部分内部状态是相同的。它让某个类的一个实例能用来提供许多"虚拟实例"
  • 结构型 - 代理(Proxy)
    • 代理模式(Proxy pattern): 为另一个对象提供一个替身或占位符以控制对这个对象的访问

第三步:行为型设计模式

  • 行为型 - 责任链(Chain Of Responsibility)
    • 责任链模式(Chain of responsibility pattern): 通过责任链模式, 你可以为某个请求创建一个对象链. 每个对象依序检查此请求并对其进行处理或者将它传给链中的下一个对象
  • 行为型 - 策略(Strategy)
    • 策略模式(strategy pattern): 定义了算法族, 分别封闭起来, 让它们之间可以互相替换, 此模式让算法的变化独立于使用算法的客户
  • 行为型 - 模板方法(Template Method)
    • 模板方法模式(Template pattern): 在一个方法中定义一个算法的骨架, 而将一些步骤延迟到子类中. 模板方法使得子类可以在不改变算法结构的情况下, 重新定义算法中的某些步骤
  • 行为型 - 命令模式(Command)
    • 命令模式(Command pattern): 将"请求"封闭成对象, 以便使用不同的请求,队列或者日志来参数化其他对象. 命令模式也支持可撤销的操作
  • 行为型 - 观察者(Observer)
    • 观察者模式(observer pattern): 在对象之间定义一对多的依赖, 这样一来, 当一个对象改变状态, 依赖它的对象都会收到通知, 并自动更新
  • 行为型 - 访问者(Visitor)
    • 访问者模式(visitor pattern): 当你想要为一个对象的组合增加新的能力, 且封装并不重要时, 就使用访问者模式
  • 行为型 - 状态(State)
    • 状态模式(State pattern): 允许对象在内部状态改变时改变它的行为, 对象看起来好象改了它的类
  • 行为型 - 解释器(Interpreter)
    • 解释器模式(Interpreter pattern): 使用解释器模式为语言创建解释器,通常由语言的语法和语法分析来定义
  • 行为型 - 迭代器(Iterator)
    • 迭代器模式(iterator pattern): 提供一种方法顺序访问一个聚合对象中的各个元素, 而又不暴露其内部的表示
  • 行为型 - 中介者(Mediator)
    • 中介者模式(Mediator pattern) : 使用中介者模式来集中相关对象之间复杂的沟通和控制方式
  • 行为型 - 备忘录(Memento)
    • 备忘录模式(Memento pattern): 当你需要让对象返回之前的状态时(例如, 你的用户请求"撤销"), 你使用备忘录模式

架构与系统设计

架构基础与方法论

A. 架构基础 - 基础知识:首先带你梳理下架构中有哪些知识点,如何学习架构,并向你介绍架构相关基础知识。

  • 架构 - 知识体系
    • 本系列将带你梳理下架构相关的知识体系,包括如何学习架构等。
  • 架构 - 架构基础: 特点,本质...
    • 本节总结下架构相关的基础知识:概述,特点,目标,本质...

B. 架构基础 - 理解架构:然后带你从构架的视角,架构的演进,架构的服务演化等角度分析架构的维度;而架构的模式即方法论总结,架构的核心要素是我们架构实现的目标。

  • 架构 - 理解构架的视角
    • 在学习架构时,我认为首先要理清楚架构的视角,因为你所认知的架构和别人所说的架构可能是两码事。对于不同职位的视角是不一样的,比如开发而言他更多的看到的是开发架构;对售前人员,他可能更多的看到的是业务架构;对于运维人员,他看到的可能是运维架构;而对于技术支持和部署人员,他更多的看到的网络和物理架构
  • 架构 - 理解架构的演进
    • 在学习架构时,第一步不要去学习框架,而是要学习架构的演进。强烈推荐李智慧老师的《大型网站技术架构》,这本书翻起来很快,对构筑你自己的体系很有帮助,本文的内容来源于它,在此基础上拓展了下
  • 架构 - 理解架构的服务演化
    • Kubernetes、Service Mesh 和 Serverless应该是最近比较火的了,而上文主要从逻辑架构角度分析了架构演进,本文将从服务演化容器编排化的角度帮你增强对架构演进的认识
  • 架构 - 理解架构的模式
    • 架构演进中有很多知识点,总体上可以归结为以下模式,这里说的模式本质是架构中技术点的抽象。强烈推荐李智慧老师的《大型网站技术架构》,本文的内容也是来源于它,在此基础上拓展了下
  • 架构 - 理解架构的核心要素
    • 一般来说软件架构需要关注性能、可用性、伸缩性、扩展性和安全性这5个架构要素
架构技术点详解

C. 架构技术点详解:紧接着对于高并发和高可用,高性能,具体阐述其中涉及的知识点,比如:缓存,限流,降级和熔断,负载均衡,容灾备份,故障转移。

  • 架构之高并发:缓存
    • 高并发实现的三板斧:缓存,限流和降级。缓存在高并发系统中有者极其广阔的应用,需要重点掌握,本文重点介绍下缓存及其实现
  • 架构之高并发:限流
    • 每个系统都有服务的上线,所以当流量超过服务极限能力时,系统可能会出现卡死、崩溃的情况,所以就有了降级和限流。限流其实就是:当高并发或者瞬时高并发时,为了保证系统的稳定性、可用性,系统以牺牲部分请求为代价或者延迟处理请求为代价,保证系统整体服务可用
  • 架构之高并发:降级和熔断
    • 在高并发环境下,服务之间的依赖关系导致调用失败,解决的方式通常是: 限流->熔断->隔离->降级, 其目的是防止雪崩效应
  • 架构之高可用:负载均衡
    • 负载均衡(Load Balance),意思是将负载(工作任务,访问请求)进行平衡、分摊到多个操作单元(服务器,组件)上进行执行。是解决高性能,单点故障(高可用),扩展性(水平伸缩)的终极解决方案
  • 架构之高可用:容灾备份,故障转移
    • TODO
  • 架构 - 保障架构安全
    • 本文对架构安全知识点梳理

互联网架构案例

D. 架构案例:从系统设计的角度,将上述的知识点融入进来,比如:秒杀系统设计等。

  • 架构案例 - 秒杀系统设计

E. 互联网架构案例:最后我们再看下互联网架构案例,帮助自己理解和学习架构。

  • 京东: 亿级商品详情页设计
  • 闲鱼: 亿级商品结构化背后的思考和演进
  • 闲鱼: 多状态多操作的交易链路架构演进
  • 闲鱼: 拉新投放系统如何设计
  • 闲鱼: 复杂搜索系统的可靠性优化之路
  • 美团: 配送系统架构演进实践
  • 美团: 即时物流的分布式系统架构设计
  • 美团: 外卖客户端高可用建设体系
  • 美团: 数据库高可用架构的演进与设想
  • 美团: 数据同步到仓库的架构实践
架构参考资料

F. 架构参考资料:此外还会总结下架构里面比较好的学习资料。

1. 《大型网站技术架构:核心原理与案例分析》

这是比较早,比较系统介绍大型网站技术架构的书,通俗易懂又充满智慧,即便你之前完全没接触过网站开发,通读前几章,也能快速获取到常见的网站技术架构及其应用场景。非常赞。

2. 《亿级流量网站架构核心技术》

相比《大型网站技术架构》的高屋建瓴,开涛的这本《亿级流量网站架构核心技术》则落实到细节,网站架构中常见的各种技术,比如缓存、队列、线程池、代理……,统统都讲到了,而且配有核心代码。甚至连 Nginx 的配置都有!

如果你想在实现大流量网站时找参考技术和代码,这本书最合适啦。

3. 《架构即未来》

这是一本“神书”啦,超越具体技术层面,着重剖析架构问题的根源,帮助我们弄清楚应该以何种方式管理、领导、组织和配置团队。

4. 《分布式服务架构:原理、设计与实战》

这本书全面介绍了分布式服务架构的原理与设计,并结合作者在实施微服务架构过程中的实践经验,总结了保障线上服务健康、可靠的最佳方案,是一本架构级、实战型的重量级著作。

5. 《聊聊架构》

这算是架构方面的一本神书了,从架构的原初谈起,从业务的拆分谈起,谈到架构的目的,架构师的角色,架构师如何将架构落地……强烈推荐。

不过,对于没有架构实践经验的小伙伴来讲,可能会觉得这本书比较虚,概念多,实战少。但如果你有过一两个项目的架构经验,就会深深认同书中追本溯源探讨的架构理念。

6. 《软件架构师的12项修炼》

大多数时候所谓的“技术之玻璃天花板”其实只是缺乏软技能而已。这些技能可以学到,缺乏的知识可以通过决定改变的努力来弥补。

以上内容来自:https://www.pdai.tech/md/outline/x-outline.html

微服务

微服务已经不是什么新技术,只是闻道有先后,大厂和趋势在前行,你不得不迈开脚步(可能你反对,但是趋势挡不住),当微服务扑面而来的时候,你是否还在观望或者犹豫,当你恍然大悟的时候,你是否又迷茫不知所措?是的,我们需要一份微服务的脑图,也许这份图谱不一定是标准答案,但是在你做参考和评估的时候,希望能对你有所帮助。如下图所示:

微服务总体的内容包含有六大组件:服务描述,注册中心,服务架构,服务监控,服务跟踪和服务治理。这六大组件互相依赖,相辅相成,纵深挖掘,又可以牵扯出DevOps和容器化技术等周边信息,这些武器库代表的是技术的未来,不管是你是在小企业还是大厂,还是大厂里的小部门,不知道你是否有这种体验?

服务描述:

类似服务的说明文档,简单但不可或缺。比如,服务调用首先要解决的问题就是服务如何对外描述。比如,你对外提供了一个服务,那么这个服务的服务名叫什么?调用这个服务需要提供哪些信息?调用这个服务返回的结果是什么格式的?该如何解析?这些就是服务描述要解决的问题。

注册中心:

有了服务的接口描述,下一步要解决的问题就是服务的发布和订阅,就是说你提供了一个服务(Provider),如何让外部(Consumer)想调用你的服务的人知道。这个时候就需要一个类似注册中心(Registry)的角色,服务提供者将自己提供的服务以及地址登记到注册中心,服务消费者则从注册中心查询所需要调用的服务的地址,然后发起请求。如下图所示:

服务框架:

通过注册中心,服务消费者就可以获取到服务提供者的地址,有了地址后就可以发起调用。但在发起调用之前你还需要解决以下几个问题。服务通信采用什么协议?是RESTful API还是gRPC?数据传输采用什么方式数据压缩采用什么格式?这些活通常集成到了我们的服务框架里面,市面上有很多这样的开源框架,相对都比较成熟,接下来考验你的是快速上手的能力。

服务监控:

一旦服务消费者与服务提供者之间能够正常发起服务调用,你就需要对调用情况进行监控,以了解服务是否正常。通常来讲,服务监控主要包括三个流程,指标收集,数据处理,数据展示。监控是为了发现问题和异常,如果要进一步跟踪和定位问题,则需要进一步了解服务追踪。

服务追踪:

除了需要对服务调用情况进行监控之外,你还需要记录服务调用经过的每一层链路,以便进行问题追踪和故障定位,最后达到接近问题的目的。服务监控和追踪可以合并起来,但是要明确各自的职责是不一样的。

服务治理:

服务监控能够发现问题,服务追踪能够定位问题所在,而解决问题就得靠服务治理了。服务治理就是通过一系列的手段来保证在各种意外情况下,服务调用仍然能够正常进行。就目前开源的服务框架,大部分都不包括服务治理的内容,所以有可能这块是需要你和你的团队进行定制化开发,就看你做到什么程度了,就好比你有数据库但是你没有ER图描述,并不影响你用微服务,当然如果有就是锦上添花的东西了。

以上六大组件可以粗暴的定义为微服务的二级目录,他们共同组成了微服务架构,在生产环境下缺一不可。

以上文字部分节选自:cnblogs.com/jackyfei/p/10019621.html

Kubernetes

虽然 Docker 已经很强大了,但是在实际使用上还是有诸多不便,比如集群管理、资源调度、文件管理等等。那么在这样一个百花齐放的容器时代涌现出了很多解决方案,比如 Mesos、Swarm、Kubernetes 等等,其中谷歌开源的 Kubernetes 是作为老大哥的存在。

Kubernetes 解决的核心问题

  • 服务发现和负载均衡
    • Kubernetes 可以使用 DNS 名称或自己的 IP 地址公开容器,如果到容器的流量很大,Kubernetes 可以负载均衡并分配网络流量,从而使部署稳定。
  • 存储编排
    • Kubernetes 允许您自动挂载您选择的存储系统,例如本地存储、公共云提供商等。
  • 自动部署和回滚
    • 您可以使用 Kubernetes 描述已部署容器的所需状态,它可以以受控的速率将实际状态更改为所需状态。例如,您可以自动化 Kubernetes 来为您的部署创建新容器,删除现有容器并将它们的所有资源用于新容器。
  • 自动二进制打包
    • Kubernetes 允许您指定每个容器所需 CPU 和内存(RAM)。当容器指定了资源请求时,Kubernetes 可以做出更好的决策来管理容器的资源。
  • 自我修复
    • Kubernetes 重新启动失败的容器、替换容器、杀死不响应用户定义的运行状况检查的容器,并且在准备好服务之前不将其通告给客户端。
  • 密钥与配置管理
    • Kubernetes 允许您存储和管理敏感信息,例如密码、OAuth 令牌和 ssh 密钥。您可以在不重建容器镜像的情况下部署和更新密钥和应用程序配置,也无需在堆栈配置中暴露密钥。

Kubernetes 的出现不仅主宰了容器编排的市场,更改变了过去的运维方式,不仅将开发与运维之间边界变得更加模糊,而且让 DevOps 这一角色变得更加清晰,每一个软件工程师都可以通过 Kubernetes 来定义服务之间的拓扑关系、线上的节点个数、资源使用量并且能够快速实现水平扩容、蓝绿部署等在过去复杂的运维操作。

更多介绍参阅:Kubernetes 前世今生( 附学习导图 )

安装

安装v1.16.0版本,竟然成功了。记录在此,避免后来者踩坑。本篇文章,安装大步骤如下:详细安装步骤参考:CentOS 搭建 K8S,一次性成功,收藏了! 集群安装教程请参考:全网最新、最详细基于V1.20版本,无坑部署最小化 K8S 集群教程

Pod 实现原理

Pod 就是最小并且最简单的 Kubernetes 对象

详细介绍请参考:Kubernetes 之 Pod 实现原理

Harbor 仓库

Kuternetes 企业级 Docker 私有仓库 Harbor 工具。Harbor 的每个组件都是以 Docker 容器的形式构建的,使用 Docker Compose 来对它进行部署。用于部署 Harbor 的 Docker Compose 模板位于 /Deployer/docker-compose.yml 中,其由 5 个容器组成,这几个容器通过 Docker link 的形式连接在一起,在容器之间通过容器名字互相访问。对终端用户而言,只需要暴露 Proxy(即Nginx) 的服务端口即可。

详细介绍与搭建步骤请参考:企业级环境中基于 Harbor 搭建

YAML 语法

YAML 是一种非常简洁/强大/专门用来写配置文件的语言!YAML 全称是 ”YAML Ain’t a Markup Language” 的递归缩写,该语言的设计参考了 JSON / XML 和 SDL 等语言,强调以数据为中心,简洁易读,编写简单。

更多详细内容请参阅::Kubernetes 之 YAML 语法,这篇文章介绍的非常详细,有很多例子说明。

资源清单

K8S 中所有的内容都抽象为了资源,资源实例化之后就叫做对象。

更多详细内容请参阅:Kubernetes 之资源清单详细介绍看这里

资源控制器

Kubernetes 资源控制器配置文件的编写是学习 K8S 的重中之重!资源配额控制器确保了指定的资源对象始终不会超过配置的资源,能够有效的降低整个系统宕机的机率,增强系统的鲁棒性,对整个集群的稳定性有非常重要的作用。

Kubernetes 资源控制器使用指南手册

服务发现

Kubernetes 中为了实现服务实例间的负载均衡和不同服务间的服务发现,创造了 Service 对象,同时又为从集群外部访问集群创建了 Ingress 对象。

更多详细内容请参阅:Kubernetes 之服务发现

Ingress 服务

我们都知道传统的 SVC 只支持四层上面的代码,而对于七层上的代码而无能为力。比如:我们使用 K8S 集群对外提供 HTTPS 的服务,为了方便和便捷,我们需要在对外的 Nginx 服务上面配置 SSL 加密,但是将请求发送给后端服务的时候,进行证书卸载的操作,后续都是用 HTTP 的协议进行处理。而面对此问题,K8S 中给出了使用 Ingress (K8S在1.11版本中推出了)来进行处理。

更多详细内容请参阅:Kubernetes 之 Ingress 服务,介绍关于 Ingress 服务的安装方式,配置关于 Ingress 服务的 HTTP 代理访问,介绍 Ingress 服务的 BasicAuth 认证方式,介绍 Ingress 的进行规则重写的方式。

数据存储

在之前的文章中,我们已经知道了很多 K8S 中的组件了,包括资源控制器等。在资源控制器中,我们说到了 StatefulSet 这个控制器组件,其专门为了有状态服务而生的,而对应的存储要存放到哪里呢?

介绍 K8S 中常见的存储机制可以让我们所使用的:Kubernetes 之数据存储

集群调度

有这样一个需求,就是集群中多台服务的配置是不一致的。这就导致资源分配并不是均匀的,比如我们需要有些服务节点用来运行计算密集型的服务,而有些服务节点来运行需要大量内存的服务。而在 k8s 中当然也配置了相关服务来处理上述的问题,那就是 Scheduler。

详细的介绍请参考:Kubernetes 之集群调度

kubectl 使用指南

kubectl 是 Kubernetes 自带的客户端,可以用它来直接操作 Kubernetes 集群。

更多详细内容请参阅:Kubernetes 之 kubectl 使用指南

管理工具
  • Kubernetes 集群管理工具 K9S
  • 轻松管理 Kubernetes 集群的7个工具
  • 介绍5 款顶级 Kubernetes 日志监控工具**
Kubernetes 常见问题总结

对于新安装的 Kubernetes,经常出现的一个问题是 Service 没有正常工作。如果您已经运行了 Deployment 并创建了一个 Service,但是当您尝试访问它时没有得到响应,希望这份文档(全网最详细的 K8s Service 不能访问排查流程)能帮助您找出问题所在。

Kubernetes 上对应用程序进行故障排除的 6 个技巧 推荐给大家,日常排错必备。分享一份阿里云内部超全K8s实战手册,免费下载!

  • 采用 jenkins pipeline 实现自动构建并部署至 k8s
  • 10个小技巧提高 Kubernetes 容器效率
  • Kubernetes 常见运维技巧总结

高清PDF下载获取方式,点击下方公众号名片,然后在后台回台回复 Java全栈知识体系  免费获取下载链接。

我的新书:《 Linux系统运维指南 》已出版

推荐阅读 点击标题可跳转
彻底搞懂 Nginx 五大应用场景!出去吹牛逼再也不担心了
干掉 Swagger-ui !试试这个新工具
牛X!这款高颜值 Markdown 神器真强大~
广州最最最牛逼的 IT 公司全在这了!
Windows 11 的 WSL2 与 Ubuntu Linux 到底鹿死谁手?
一款优秀、开源的 http 框架
PS:因为公众号平台更改了推送规则,如果不想错过内容,记得读完点一下在看,加个星标,这样每次新文章推送才会第一时间出现在你的订阅列表里。
随手在看、转发就是最大的支持!

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存