Java自学者论坛

 找回密码
 立即注册

手机号码,快捷登录

恭喜Java自学者论坛(https://www.javazxz.com)已经为数万Java学习者服务超过8年了!积累会员资料超过10000G+
成为本站VIP会员,下载本站10000G+会员资源,会员资料板块,购买链接:点击进入购买VIP会员

JAVA高级面试进阶训练营视频教程

Java架构师系统进阶VIP课程

分布式高可用全栈开发微服务教程Go语言视频零基础入门到精通Java架构师3期(课件+源码)
Java开发全终端实战租房项目视频教程SpringBoot2.X入门到高级使用教程大数据培训第六期全套视频教程深度学习(CNN RNN GAN)算法原理Java亿级流量电商系统视频教程
互联网架构师视频教程年薪50万Spark2.0从入门到精通年薪50万!人工智能学习路线教程年薪50万大数据入门到精通学习路线年薪50万机器学习入门到精通教程
仿小米商城类app和小程序视频教程深度学习数据分析基础到实战最新黑马javaEE2.1就业课程从 0到JVM实战高手教程MySQL入门到精通教程
查看: 363|回复: 0

java 高并发解决方案

[复制链接]
  • TA的每日心情
    奋斗
    2024-4-6 11:05
  • 签到天数: 748 天

    [LV.9]以坛为家II

    2034

    主题

    2092

    帖子

    70万

    积分

    管理员

    Rank: 9Rank: 9Rank: 9

    积分
    705612
    发表于 2021-4-26 18:19:22 | 显示全部楼层 |阅读模式

     对于我们开发的网站,如果网站的访问量非常大的话,那么我们就需要考虑相关的并发访问问题了。而并发问题是绝大部分的程序员头疼的问题,

    但话又说回来了,既然逃避不掉,那我们就坦然面对吧~今天就让我们一起来研究一下常见的并发和同步吧。

       为了更好的理解并发和同步,我们需要先明白两个重要的概念:同步和异步

       1、同步和异步的区别和联系

             所谓同步,可以理解为在执行完一个函数或方法之后,一直等待系统返回值或消息,这时程序是出于阻塞的,只有接收到

            返回的值或消息后才往下执行其它的命令。

            异步,执行完函数或方法后,不必阻塞性地等待返回值或消息,只需要向系统委托一个异步过程,那么当系统接收到返回

            值或消息时,系统会自动触发委托的异步过程,从而完成一个完整的流程。

             同步在一定程度上可以看做是单线程,这个线程请求一个方法后就待这个方法给他回复,否则他不往下执行(死心眼)。

            异步在一定程度上可以看做是多线程的(废话,一个线程怎么叫异步),请求一个方法后,就不管了,继续执行其他的方法。

            

            同步就是一件事,一件事情一件事的做。
            异步就是,做一件事情,不引响做其他事情。

            例如:吃饭和说话,只能一件事一件事的来,因为只有一张嘴。
                    但吃饭和听音乐是异步的,因为,听音乐并不引响我们吃饭。

     

            对于Java程序员而言,我们会经常听到同步关键字synchronized,假如这个同步的监视对象是类的话,那么如果当一个对象

            访问类里面的同步方法的话,那么其它的对象如果想要继续访问类里面的这个同步方法的话,就会进入阻塞,只有等前一个对象

            执行完该同步方法后当前对象才能够继续执行该方法。这就是同步。相反,如果方法前没有同步关键字修饰的话,那么不同的对象

            可以在同一时间访问同一个方法,这就是异步。

          

            在补充一下(脏数据和不可重复读的相关概念):

           脏数据

      脏读就是指当一个事务正在访问数据,并且对数据进行了修改,而这种修改还没有提交到数据库中,这时,另外一个事务也访问这个数据,然后使用了这
    个数据。因为这个数据是还没有提交的数据,那么另外一个事务读到的这个数据是脏数据(Dirty Data),依据脏数据所做的操作可能是不正确的。

         不可重复读

      不可重复读是指在一个事务内,多次读同一数据。在这个事务还没有结束时,另外一个事务也访问该同一数据。那么,在第一个事务中的两次读数据之间,由于第二个事务的修改,那么第一个事务两次读到的数据可能是不一样的。这样就发生了在一个事务内两次读到的数据是不一样的,因此称为是不可重复读

     

             

     

       2、如何处理并发和同步

            今天讲的如何处理并发和同同步问题主要是通过锁机制。

           我们需要明白,锁机制有两个层面。

           一种是代码层次上的,如java中的同步锁,典型的就是同步关键字synchronized,这里我不在做过多的讲解,

           感兴趣的可以参考:http://www.cnblogs.com/xiohao/p/4151408.html

           另外一种是数据库层次上的,比较典型的就是悲观锁和乐观锁。这里我们重点讲解的就是悲观锁(传统的物理锁)和乐观锁。

           悲观锁(Pessimistic Locking):       

           悲观锁,正如其名,它指的是对数据被外界(包括本系统当前的其他事务,以及来自 外部系统的事务处理)修改持保守态度,因此,

           在整个数据处理过程中,将数据处于锁定状态。

           悲观锁的实现,往往依靠数据库提供的锁机制(也只有数据库层提供的锁机制才能 真正保证数据访问的排他性,否则,即使在本系统

           中实现了加锁机制,也无法保证外部系 统不会修改数据)。 

           一个典型的倚赖数据库的悲观锁调用: 

           select * from account where name=”Erica” for update

           这条 sql 语句锁定了 account 表中所有符合检索条件( name=”Erica” )的记录。

           本次事务提交之前(事务提交时会释放事务过程中的锁),外界无法修改这些记录。 
           Hibernate 的悲观锁,也是基于数据库的锁机制实现。 
           下面的代码实现了对查询记录的加锁:

           String hqlStr ="from TUser as user where user.name='Erica'";

            Query query = session.createQuery(hqlStr);

            query.setLockMode("user",LockMode.UPGRADE); // 加锁

           List userList = query.list();// 执行查询,获取数据

           query.setLockMode 对查询语句中,特定别名所对应的记录进行加锁(我们为 TUser 类指定了一个别名 “user” ),这里也就是对

          返回的所有 user 记录进行加锁。 

          观察运行期 Hibernate 生成的 SQL 语句: 
          select tuser0_.id as id, tuser0_.name as name, tuser0_.group_id
          as group_id, tuser0_.user_type as user_type, tuser0_.sex as sex
          from t_user tuser0_ where (tuser0_.name='Erica' ) for update
         这里 Hibernate 通过使用数据库的 for update 子句实现了悲观锁机制。 
          Hibernate 的加锁模式有: 
          Ø LockMode.NONE : 无锁机制。 
          Ø LockMode.WRITE : Hibernate 在 Insert 和 Update 记录的时候会自动获取
          Ø LockMode.READ : Hibernate 在读取记录的时候会自动获取。 
          以上这三种锁机制一般由 Hibernate 内部使用,如 Hibernate 为了保证 Update
          过程中对象不会被外界修改,会在 save 方法实现中自动为目标对象加上 WRITE 锁。 
          Ø LockMode.UPGRADE :利用数据库的 for update 子句加锁。 
          Ø LockMode. UPGRADE_NOWAIT : Oracle 的特定实现,利用 Oracle 的 for
          update nowait 子句实现加锁。 
          上面这两种锁机制是我们在应用层较为常用的,加锁一般通过以下方法实现: 
          Criteria.setLockMode
          Query.setLockMode
          Session.lock
          注意,只有在查询开始之前(也就是 Hiberate 生成 SQL 之前)设定加锁,才会 
          真正通过数据库的锁机制进行加锁处理,否则,数据已经通过不包含 for update
          子句的 Select SQL 加载进来,所谓数据库加锁也就无从谈起。

          为了更好的理解select... for update的锁表的过程,本人将要以mysql为例,进行相应的讲解

          1、要测试锁定的状况,可以利用MySQL的Command Mode ,开二个视窗来做测试。

              表的基本结构如下:

              

     

               表中内容如下:

               

     

              开启两个测试窗口,在其中一个窗口执行select * from ta for update0

              然后在另外一个窗口执行update操作如下图:

              

              等到一个窗口commit后的图片如下:

              

               到这里,悲观锁机制你应该了解一些了吧~

           

               需要注意的是for update要放到mysql的事务中,即begin和commit中,否者不起作用。

               至于是锁住整个表还是锁住选中的行,请参考:

               http://www.cnblogs.com/xiohao/p/4385768.html

                至于hibernate中的悲观锁使用起来比较简单,这里就不写demo了~感兴趣的自己查一下就ok了~

               

              乐观锁(Optimistic Locking):        
             相对悲观锁而言,乐观锁机制采取了更加宽松的加锁机制。悲观锁大多数情况下依 靠数据库的锁机制实现,以保证操作最大程度的独占性。但随之

    而来的就是数据库 性能的大量开销,特别是对长事务而言,这样的开销往往无法承受。 如一个金融系统,当某个操作员读取用户的数据,并在读出的用户数

    据的基础上进 行修改时(如更改用户帐户余额),如果采用悲观锁机制,也就意味着整个操作过 程中(从操作员读出数据、开始修改直至提交修改结果的全

    过程,甚至还包括操作 员中途去煮咖啡的时间),数据库记录始终处于加锁状态,可以想见,如果面对几 百上千个并发,这样的情况将导致怎样的后果。 乐

    观锁机制在一定程度上解决了这个问题。

             乐观锁,大多是基于数据版本   Version )记录机制实现。何谓数据版本?即为数据增加一个版本标识,在基于数据库表的版本解决方案中,一般是通

    过为数据库表增加一个 “version” 字段来 实现。 读取出数据时,将此版本号一同读出,之后更新时,对此版本号加一。此时,将提 交数据的版本数据与数据

    库表对应记录的当前版本信息进行比对,如果提交的数据 版本号大于数据库表当前版本号,则予以更新,否则认为是过期数据。 对于上面修改用户帐户信息

    的例子而言,假设数据库中帐户信息表中有一个 version 字段,当前值为 1 ;而当前帐户余额字段( balance )为 $100 。 操作员 A 此时将其读出

    ( version=1 ),并从其帐户余额中扣除 $50( $100-$50 )。 2 在操作员 A 操作的过程中,操作员 B 也读入此用户信息( version=1 ),并 从其帐

    户余额中扣除 $20 ( $100-$20 )。 3 操作员 A 完成了修改工作,将数据版本号加一( version=2 ),连同帐户扣 除后余额( balance=$50 ),提交

    至数据库更新,此时由于提交数据版本大 于数据库记录当前版本,数据被更新,数据库记录 version 更新为 2 。 4 操作员 B 完成了操作,也将版本号加一

    ( version=2 )试图向数据库提交数 据( balance=$80 ),但此时比对数据库记录版本时发现,操作员 B 提交的 数据版本号为 2 ,数据库记录当前版

    本也为 2 ,不满足 “ 提交版本必须大于记 录当前版本才能执行更新 “ 的乐观锁策略,因此,操作员 B 的提交被驳回。 这样,就避免了操作员 B 用基于

    version=1 的旧数据修改的结果覆盖操作 员 A 的操作结果的可能。 从上面的例子可以看出,乐观锁机制避免了长事务中的数据库加锁开销(操作员 A


    和操作员 B 操作过程中,都没有对数据库数据加锁),大大提升了大并发量下的系 统整体性能表现。 需要注意的是,乐观锁机制往往基于系统中的数据存储

    逻辑,因此也具备一定的局 限性,如在上例中,由于乐观锁机制是在我们的系统中实现,来自外部系统的用户 余额更新操作不受我们系统的控制,因此可能

    会造成脏数据被更新到数据库中。在 系统设计阶段,我们应该充分考虑到这些情况出现的可能性,并进行相应调整(如 将乐观锁策略在数据库存储过程中实

    现,对外只开放基于此存储过程的数据更新途 径,而不是将数据库表直接对外公开)。 Hibernate 在其数据访问引擎中内置了乐观锁实现。如果不用考虑外

    部系统对数 据库的更新操作,利用 Hibernate 提供的透明化乐观锁实现,将大大提升我们的 生产力。


    Hibernate 中可以通过 class 描述符的 optimistic-lock 属性结合 version描述符指定。

    现在,我们为之前示例中的 User 加上乐观锁机制。

     

    1 . 首先为 User 的POJO class

           

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    34
    35
    36
    37
    38
    39
    40
    41
    42
    43
    44
    45
    46
    47
    48
    49
    50
    51
    52
    53
    54
    package  com.xiaohao.test;
     
    public  class  User {
        private  Integer id;
        private  String userName;
        private  String password;
        private  int  version;
        
    public  int  getVersion() {
         return  version;
    }
     
    public  void  setVersion( int  version) {
         this .version = version;
    }
     
    public  Integer getId() {
         return  id;
    }
     
    public  void  setId(Integer id) {
         this .id = id;
    }
     
    public  String getUserName() {
         return  userName;
    }
     
    public  void  setUserName(String userName) {
         this .userName = userName;
    }
     
    public  String getPassword() {
         return  password;
    }
     
    public  void  setPassword(String password) {
         this .password = password;
    }
     
     
     
    public  User() {}
     
    public  User(String userName, String password) {
         super ();
         this .userName = userName;
         this .password = password;
    }
     
     
        
        
    }

      


            然后是User.hbm.xml

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    <?xml version= "1.0" ?>
    <!DOCTYPE hibernate-mapping PUBLIC
             "-//Hibernate/Hibernate Mapping DTD 3.0//EN"
     
    <hibernate-mapping  package = "com.xiaohao.test" >
     
         < class  name= "User"   table= "user"  optimistic-lock= "version"  >
                   <id name= "id" >
                 <generator  class = "native"  />
             </id>
             <!--version标签必须跟在id标签后面-->
             <version column= "version"  name= "version"   />
             <property name= "userName" />
             <property name= "password" />
                     
         </ class >
         
     
    </hibernate-mapping>

    注意 version 节点必须出现在 ID 节点之后。 
    这里我们声明了一个 version 属性,用于存放用户的版本信息,保存在 User 表的version中 
    optimistic-lock 属性有如下可选取值: 
    Ø none
    无乐观锁 
    Ø version
    通过版本机制实现乐观锁 
    Ø dirty
    通过检查发生变动过的属性实现乐观锁 
    Ø all
    通过检查所有属性实现乐观锁 
    其中通过 version 实现的乐观锁机制是 Hibernate 官方推荐的乐观锁实现,同时也 
    是 Hibernate 中,目前唯一在数据对象脱离 Session 发生修改的情况下依然有效的锁机 
    制。因此,一般情况下,我们都选择 version 方式作为 Hibernate 乐观锁实现机制。


    2 . 配置文件hibernate.cfg.xml和UserTest测试类

       hibernate.cfg.xml

      

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    <!DOCTYPE hibernate-configuration PUBLIC
             "-//Hibernate/Hibernate Configuration DTD 3.0//EN"
     
    <hibernate-configuration>
    <session-factory>
     
         <!-- 指定数据库方言 如果使用jbpm的话,数据库方言只能是InnoDB-->
         <property name= "dialect" >org.hibernate.dialect.MySQL5InnoDBDialect</property>
         <!-- 根据需要自动创建数据表 -->
         <property name= "hbm2ddl.auto" >update</property>
         <!-- 显示Hibernate持久化操作所生成的SQL -->
         <property name= "show_sql" > true </property>
         <!-- 将SQL脚本进行格式化后再输出 -->
         <property name= "format_sql" > false </property>
         <property name= "current_session_context_class" >thread</property>
     
     
         <!-- 导入映射配置 -->
         <property name= "connection.url" >jdbc:mysql: ///user</property>
         <property name= "connection.username" >root</property>
         <property name= "connection.password" > 123456 </property>
         <property name= "connection.driver_class" >com.mysql.jdbc.Driver</property>
         <mapping resource= "com/xiaohao/test/User.hbm.xml"  />
     
     
     
    </session-factory>
    </hibernate-configuration>

      UserTest.java

        

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    package  com.xiaohao.test;
     
    import  org.hibernate.Session;
    import  org.hibernate.SessionFactory;
    import  org.hibernate.Transaction;
    import  org.hibernate.cfg.Configuration;
     
    public  class  UserTest {
         public  static  void  main(String[] args) {
             Configuration conf= new  Configuration().configure();
             SessionFactory sf=conf.buildSessionFactory();
             Session session=sf.getCurrentSession();
             Transaction tx=session.beginTransaction();
    //      User user=new User("小浩","英雄");
    //      session.save(user);
    //       session.createSQLQuery("insert into user(userName,password) value('张英雄16','123')")
    //                  .executeUpdate();
             User user=(User) session.get(User. class 1 );
             user.setUserName( "221" );
    //      session.save(user);
         
             System.out.println( "恭喜您,用户的数据插入成功了哦~~" );
             tx.commit();
         }
     
    }

      每次对 TUser 进行更新的时候,我们可以发现,数据库中的 version 都在递增。



    下面我们将要通过乐观锁来实现一下并发和同步的测试用例:

    这里需要使用两个测试类,分别运行在不同的虚拟机上面,以此来模拟多个用户同时操作一张表,同时其中一个测试类需要模拟长事务

    UserTest.java

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    package  com.xiaohao.test;
     
    import  org.hibernate.Session;
    import  org.hibernate.SessionFactory;
    import  org.hibernate.Transaction;
    import  org.hibernate.cfg.Configuration;
     
    public  class  UserTest {
         public  static  void  main(String[] args) {
             Configuration conf= new  Configuration().configure();
             SessionFactory sf=conf.buildSessionFactory();
             Session session=sf.openSession();
    //      Session session2=sf.openSession();
             User user=(User) session.createQuery( " from User user where user=5" ).uniqueResult();
    //      User user2=(User) session.createQuery(" from User user where user=5").uniqueResult();
             System.out.println(user.getVersion());
    //      System.out.println(user2.getVersion());
             Transaction tx=session.beginTransaction();
             user.setUserName( "101" );
             tx.commit();
             
             System.out.println(user.getVersion());
    //      System.out.println(user2.getVersion());
    //      System.out.println(user.getVersion()==user2.getVersion());
    //      Transaction tx2=session2.beginTransaction();
    //      user2.setUserName("4468");
    //      tx2.commit();
         
         }
     
    }

      UserTest2.java

     

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    package  com.xiaohao.test;
     
    import  org.hibernate.Session;
    import  org.hibernate.SessionFactory;
    import  org.hibernate.Transaction;
    import  org.hibernate.cfg.Configuration;
     
    public  class  UserTest2 {
         public  static  void  main(String[] args)  throws  InterruptedException {
             Configuration conf= new  Configuration().configure();
             SessionFactory sf=conf.buildSessionFactory();
             Session session=sf.openSession();
    //      Session session2=sf.openSession();
             User user=(User) session.createQuery( " from User user where user=5" ).uniqueResult();
             Thread.sleep( 10000 );
    //      User user2=(User) session.createQuery(" from User user where user=5").uniqueResult();
             System.out.println(user.getVersion());
    //      System.out.println(user2.getVersion());
             Transaction tx=session.beginTransaction();
             user.setUserName( "100" );
             tx.commit();
             
             System.out.println(user.getVersion());
    //      System.out.println(user2.getVersion());
    //      System.out.println(user.getVersion()==user2.getVersion());
    //      Transaction tx2=session2.beginTransaction();
    //      user2.setUserName("4468");
    //      tx2.commit();
         
         }
     
    }

     

    操作流程及简单讲解: 首先启动UserTest2.java测试类,在执行到Thread.sleep(10000);这条语句的时候,当前线程会进入睡眠状态。在10秒钟之内

                                启动UserTest这个类,在到达10秒的时候,我们将会在UserTest.java中抛出下面的异常:

     

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    Exception in thread  "main"  org.hibernate.StaleObjectStateException: Row was updated or deleted by another transaction (or unsaved-value mapping was incorrect): [com.xiaohao.test.User# 5 ]
         at org.hibernate.persister.entity.AbstractEntityPersister.check(AbstractEntityPersister.java: 1932 )
         at org.hibernate.persister.entity.AbstractEntityPersister.update(AbstractEntityPersister.java: 2576 )
         at org.hibernate.persister.entity.AbstractEntityPersister.updateOrInsert(AbstractEntityPersister.java: 2476 )
         at org.hibernate.persister.entity.AbstractEntityPersister.update(AbstractEntityPersister.java: 2803 )
         at org.hibernate.action.EntityUpdateAction.execute(EntityUpdateAction.java: 113 )
         at org.hibernate.engine.ActionQueue.execute(ActionQueue.java: 273 )
         at org.hibernate.engine.ActionQueue.executeActions(ActionQueue.java: 265 )
         at org.hibernate.engine.ActionQueue.executeActions(ActionQueue.java: 185 )
         at org.hibernate.event.def.AbstractFlushingEventListener.performExecutions(AbstractFlushingEventListener.java: 321 )
         at org.hibernate.event.def.DefaultFlushEventListener.onFlush(DefaultFlushEventListener.java: 51 )
         at org.hibernate.impl.SessionImpl.flush(SessionImpl.java: 1216 )
         at org.hibernate.impl.SessionImpl.managedFlush(SessionImpl.java: 383 )
         at org.hibernate.transaction.JDBCTransaction.commit(JDBCTransaction.java: 133 )
         at com.xiaohao.test.UserTest2.main(UserTest2.java: 21 )

     

     UserTest2代码将在 tx.commit() 处抛出 StaleObjectStateException 异 常,并指出版本检查失败,当前事务正在试图提交一个过期数据。通过捕捉这个异常,我 们就可以在乐观锁校验失败时进行相应处理

     

     

     

       3、常见并发同步案例分析

        案例一:订票系统案例,某航班只有一张机票,假定有1w个人打开你的网站来订票,问你如何解决并发问题(可扩展到任何高并发网站要考虑

                   的并发读写问题)

        问题,1w个人来访问,票没出去前要保证大家都能看到有票,不可能一个人在看到票的时候别人就不能看了。到底谁能抢到,那得看这个人的“运气”(网

                 络快慢等)

    其次考虑的问题,并发,1w个人同时点击购买,到底谁能成交?总共只有一张票。

    首先我们容易想到和并发相关的几个方案 :

    锁同步同步更多指的是应用程序的层面,多个线程进来,只能一个一个的访问,java中指的是syncrinized关键字。锁也有2个层面,一个是java中谈到的对

    象锁,用于线程同步;另外一个层面是数据库的锁;如果是分布式的系统,显然只能利用数据库端的锁来实现。

    假定我们采用了同步机制或者数据库物理锁机制,如何保证1w个人还能同时看到有票,显然会牺牲性能,在高并发网站中是不可取的。使用hibernate后我们

    提出了另外一个概念:乐观锁悲观锁(即传统的物理锁);

    采用乐观锁即可解决此问题。乐观锁意思是不锁定表的情况下,利用业务的控制来解决并发问题,这样即保证数据的并发可读性又保证保存数据的排他性,保

    证性能的同时解决了并发带来的脏数据问题。

    hibernate中如何实现乐观锁:

    前提:在现有表当中增加一个冗余字段,version版本号, long类型

    原理:

    1)只有当前版本号》=数据库表版本号,才能提交

    2)提交成功后,版本号version ++

    实现很简单:在ormapping增加一属性optimistic-lock="version"即可,以下是样例片段

    <hibernate-mapping>

    <class name="com.insigma.stock.ABC" optimistic-lock="version" table="T_Stock" schema="STOCK">

    案例二、股票交易系统、银行系统,大数据量你是如何考虑的

    首先,股票交易系统的行情表,每几秒钟就有一个行情记录产生,一天下来就有(假定行情3秒一个) 股票数量×20×60*6 条记录,一月下来这个表记录数

    量多大? oracle中一张表的记录数超过100w后 查询性能就很差了,如何保证系统性能?

    再比如,中国移动有上亿的用户量,表如何设计?把所有用于存在于一个表么?

    所以,大数量的系统,必须考虑表拆分-(表名字不一样,但是结构完全一样),通用的几种方式:(视情况而定)

    1)按业务分,比如 手机号的表,我们可以考虑 130开头的作为一个表,131开头的另外一张表 以此类推

    2)利用oracle的表拆分机制做分表

    3)如果是交易系统,我们可以考虑按时间轴拆分,当日数据一个表,历史数据弄到其它表。这里历史数据的报表和查询不会影响当日交易。

    当然,表拆分后我们的应用得做相应的适配。单纯的or-mapping也许就得改动了。比如部分业务得通过存储过程等

    此外,我们还得考虑缓存

    这里的缓存,指的不仅仅是hibernate,hibernate本身提供了一级二级缓存。这里的缓存独立于应用,依然是内存的读取,假如我们能减少数据库频繁的访

    问,那对系统肯定大大有利的。比如一个电子商务系统的商品搜索,如果某个关键字的商品经常被搜,那就可以考虑这部分商品列表存放到缓存(内存中

    去),这样不用每次访问数据库,性能大大增加。

    简单的缓存大家可以理解为自己做一个hashmap,把常访问的数据做一个key,value是第一次从数据库搜索出来的值,下次访问就可以从map里读取,而不

    读数据库;专业些的目前有独立的缓存框架比如memcached 等,可独立部署成一个缓存服务器。

     

    4、常见的提高高并发下访问的效率的手段

          首先要了解高并发的的瓶颈在哪里?

         1、可能是服务器网络带宽不够

         2.可能web线程连接数不够

         3.可能数据库连接查询上不去。

         根据不同的情况,解决思路也不同。

    1. 像第一种情况可以增加网络带宽,DNS域名解析分发多台服务器。

    2. 负载均衡,前置代理服务器nginx、apache等等

    3. 数据库查询优化,读写分离,分表等等

       最后复制一些在高并发下面需要常常需要处理的内容:

    • 尽量使用缓存,包括用户缓存,信息缓存等,多花点内存来做缓存,可以大量减少与数据库的交互,提高性能。

    • 用jprofiler等工具找出性能瓶颈,减少额外的开销。

    • 优化数据库查询语句,减少直接使用hibernate等工具的直接生成语句(仅耗时较长的查询做优化)。

    • 优化数据库结构,多做索引,提高查询效率。

    • 统计的功能尽量做缓存,或按每天一统计或定时统计相关报表,避免需要时进行统计的功能。

    • 能使用静态页面的地方尽量使用,减少容器的解析(尽量将动态内容生成静态html来显示)。

    • 解决以上问题后,使用服务器集群来解决单台的瓶颈问题。

     

    好吧,简单的高并发和同步就到这里吧~~

    哎...今天够累的,签到来了1...
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|手机版|小黑屋|Java自学者论坛 ( 声明:本站文章及资料整理自互联网,用于Java自学者交流学习使用,对资料版权不负任何法律责任,若有侵权请及时联系客服屏蔽删除 )

    GMT+8, 2024-4-25 04:29 , Processed in 0.070249 second(s), 29 queries .

    Powered by Discuz! X3.4

    Copyright © 2001-2021, Tencent Cloud.

    快速回复 返回顶部 返回列表