ตอนนี้ต้องมาเขียนโปรแกรมเพื่อเชื่อมต่อกับ MSSQL 2005 ซึ่งไฟล์ฐานข้อมูลใหญ่ขนาด 35GB เก็บข้อมูลเยอะกว่า 25 ล้านเรคคอร์ด ตอนนี้คิวรี่ได้ช้ามากๆ บางทีก็หลุดก่อนที่จะได้ผลลัพท์ออกมา เลยอยากรู้ว่าผมควรจะจัดการกับฐานข้อมูลระดับนี้ยังไงดีครับ เครื่องเซิพเวอร์เครื่องเดียวสามารถรองรับได้ไหม
Hiring! บริษัทที่น่าสนใจ
Carmen Software
Hotel Financial Solutions
Next Innovation (Thailand) Co., Ltd.
We are web design with consulting & engineering services driven the future stronger and flexibility.
KKP Dime
KKP Dime บริษัทในเครือเกียรตินาคินภัทร
Kiatnakin Phatra Financial Group
Financial Service
Fastwork Technologies
Fastwork.co เว็บไซต์ที่รวบรวม ฟรีแลนซ์ มืออาชีพจากหลากหลายสายงานไว้ในที่เดียวกัน
Thoughtworks Thailand
Thoughtworks เป็นบริษัทที่ปรึกษาด้านเทคโนโยลีระดับโลกที่คว้า Great Place to Work 3 ปีซ้อน
Iron Software
Iron Software is an American company providing a suite of .NET libraries by engineer for engineers.
CLEVERSE
Cleverse is a Venture Builder. Our team builds several tech companies.
Nipa Cloud
#1 OpenStack cloud provider in Thailand with our own data center and software platform.
Bangmod Enterprise
The leader in Cloud Server and Hosting in Thailand.
CIMB THAI Bank
MOVING FORWARD WITH YOU - CIMB is the leading ASEAN Bank
Bangkok Bank
Bangkok Bank is one of Southeast Asia's largest regional banks, a market leader in business banking
MuvMi (Urban Mobility Tech Co.,Ltd.)
Shape the future of urban mobility towards affordable, clean, and safe solutions
T.N. Digital Solution Co., Ltd.
TNDS has been involving in every first move of banking’s major digital transformation.
KBTG - KASIKORN Business-Technology Group
KBTG - "The Technology Company for Digital Business Innovation"
Siam Commercial Bank Public Company Limited
"Let's start a brighter career future together"
Icon Framework co.,Ltd.
Global Standard Platform for Real Estate แพลตฟอร์มสำหรับธุรกิจอสังหาริมทรัพย์ครบวงจร มาตรฐานระดับโลก
REFINITIV
The Financial and Risk business of Thomson Reuters is now Refinitiv
H LAB
Re-engineering healthcare systems through intelligent platforms and system design.
The Gang Technology Co., Ltd.
We're a Digital Agency that helps our customers transform their business into digital with ease.
LTMH
LTMH มุ่งเน้นการพัฒนาผลิตภัณฑ์ที่สามารถช่วยพันธมิตรของเราให้บรรลุเป้าหมาย
Seven Peaks
We Drive Digital Transformation
Wisesight (Thailand) Co., Ltd.
The Best Choice For Handling Social Media · High Expertise in Social Data · Most Advanced and Secure
MOLOG Tech
We are Modern Logistic Platform, Specialize in WMS, OMS and TMS.
Data Wow Co.,Ltd
We enable our clients to realize increased productivity by solving their most complex issues by Data
LINE Company Thailand
LINE, the world's hottest mobile messaging platform, offers free text and voice messaging + Call
LINE MAN Wongnai
Join our journey to becoming No.1 food platform in Thailand
on
ถ้าต้องดึงออกมาทำ report
soginal Tue, 17/07/2012 - 00:32
ถ้าต้องดึงออกมาทำ report คงต้องทำเป็น service ที่รันหลังบ้านแล้วล่ะครับเมื่อรันเสร็จก็ค่อยแจ้ง user ทางเมลล์หรือให้ user มาดูสถานะทางหน้าเวบ ถ้าทำงานเสร็จแล้วก็ให้ user ดึงเฉพาะ report ที่ generate แล้วออกมาดู
โดยปกติทั่วไป report ที่ต้องดึงข้อมูลจำนวนมากมักจะเป็น report รายเดือน สิ้นเดือนทำทีนึงอะไรประมาณนั้น
แต่ถ้าการ query แบบทั่วไปช้าด้วยเหตุว่าข้อมูลเยอะ (ปรับจูน ทำ index แก้ query แล้วก็ยังช้า) ก็ลองพิจารณาย้ายข้อมูลเก่าๆไปเก็บไว้อีกที่นึงแทน แต่ถ้าไม่สะดวกทำแบบนั้นก็ลองพวก nosql ดู เห็นว่ามีคนแถวนี้มีประสบการณ์ implement redis ด้วย :)
ตาม คห ข้างบนครับ
lancaster Tue, 17/07/2012 - 00:37
ตาม คห ข้างบนครับ เช็คดูดีๆว่า index ถูกตองหมดรึเปล่า
ถ้าครบหมดแล้วอาจต้องโมฮาร์ดแวร์กันบ้าง เช่น ssd ไรงี
จริงๆ ต้องแยกเป็น 2
fatrabb1t Tue, 17/07/2012 - 00:48
จริงๆ ต้องแยกเป็น 2 ประเด็นนะครับ คือ ฝั่ง hardware กับฝั่ง program
ฝั่ง hardware ก็ต้องลองหาข้อมูลพวกการ sizing ดูอ่ะครับ ซึ่งอันนี้ขึ้นอยู่กับว่าเอา database ไปใช้ทำอะไร แล้ว characteristic การใช้เป็นยังไง เช่น ใช้เป็น OLTP หรือทำ data warehouse มันก็จะต่างกัน แล้วโดยปกติถ้ามี hardware แล้วก็อาจจะลอง monitor performance ฝั่ง hardware ดูได้ ว่าตอนนี้เครื่องยังไหวหรือเปล่า มีตรงไหนที่ควรจะต้อง upgrade เพิ่มเติมหรือเปล่า ซึ่งหลักๆ ก็พวก Memory usage, page file usage, I/O usage, CPU usage อะไรประมาณนี้
ส่วนฝั่ง program อันนี้ต้อง fine tune ตัว config ของ database หรือ query ดูอ่ะครับ เช่น มี index หรือเปล่า index ถูกใช้หรือเปล่า ทำ data partitioning ได้มั้ย ซึ่งอันนี้ก็ต้องดูเป็น case ไปอ่ะครับ
ไม่ทราบว่า Query
czynet Tue, 17/07/2012 - 03:19
ไม่ทราบว่า Query ที่ใช้ต้องการข้อมูล Real-time มากน้อยแค่ไหนครับ
แล้วฐานข้อมูลมีการอัพเดต บ่อยแค่ไหนครับ เป็นข้อมูลลักษณะยังไง ใช้งานยังไง
ฯลฯ ถ้าโจทย์กระชับขึ้น ตรงนี้อาจจะมีทางออกอื่นๆ เพิ่มขึ้นครับ
เช่นมีฐานข้อมูลเฉพาะไว้พักข้อมูล ก่อนจะออกรายงาน ฯลฯ ประมาณนี้ครับ
อันนี้น่าจะเป็นทางแก้ที่ปลอดภ
PaPaSEK Tue, 17/07/2012 - 09:19
In reply to ไม่ทราบว่า Query by czynet
อันนี้น่าจะเป็นทางแก้ที่ปลอดภัยที่สุดครับ คือไม่ต้องไปยุ่งกับโครงสร้างตารางเก่า
อีกอย่างก็คงต้องไปดูที่ index ครับ ... ผมไม่รู้ว่า SQL Server มันเหมือนกัน Oracle รึเปล่า
วิธีของผม ... บน Oracle เวลาจะทำ index ผมก็จะต้องดูก่อนว่าผมจะมี WHERE clause โดยใช้คอลัมน์ใดบ้าง แล้วค่อยเอาคอลัมน์เหล่านั้นทั้งหมดมาจับเป็น 1 index (1 index, หลายคอลัมน์)
แต่ต้องรอช่วงปลอดคนครับ เพราะ index มัน build นานแน่นอน ... ของผมแค่ 10 ล้านนิดๆ ยังใช้เวลาร่วมๆ ครึ่ง ชม. ครับ
แต่เข้าใจว่าที่คุณ iPomz ทำงานอยู่น่าจะหาเวลาปลอดคนยากส์
ประโยคสุดท้ายที่ใช่เลยครับ
iPomz Tue, 17/07/2012 - 11:42
In reply to อันนี้น่าจะเป็นทางแก้ที่ปลอดภ by PaPaSEK
ประโยคสุดท้ายที่ใช่เลยครับ ที่นี่ทำงาน 24/7 อ่ะครับ
ข้อมูลเพิ่มเติมครับ การใช้งาน
iPomz Tue, 17/07/2012 - 11:28
In reply to ไม่ทราบว่า Query by czynet
ข้อมูลเพิ่มเติมครับ
การใช้งานเป็นการค้นหาข้อมูลทีละตารางครับ แล้วก็มีข้อมูลใหม่เพิ่มเข้ามาตลอดเวลาวันละประมาณ 1 แสนเรคคอร์ด
ข้อมูลที่นำเข้ามา ในวัน
czynet Tue, 17/07/2012 - 12:00
In reply to ข้อมูลเพิ่มเติมครับ การใช้งาน by iPomz
ข้อมูลที่นำเข้ามา ในวัน เราก็ต้องใช้ ทันทีเลยใช่ไหมครับ
ประมาณว่า เรามักจะค้นหา ข้อมูล ที่เข้ามาเมื่อ 10 นาทีที่แล้ว อะไรแบบนี้ไหมครับ
คำถามเพิ่มเติมหน่อยนะครับ ผมส
czynet Tue, 17/07/2012 - 12:03
In reply to ข้อมูลเพิ่มเติมครับ การใช้งาน by iPomz
คำถามเพิ่มเติมหน่อยนะครับ
ผมสงสัยว่า ฐานข้อมูลที่ว่า มีการ UPDATE หรือ DELETE ไหมครับ
หรือมีแต่ข้อมูลใหม่เพิ่มเข้ามาเรื่อยๆ
ขอบคุณครับ
Insert อย่างเดียวครับ
iPomz Tue, 17/07/2012 - 12:16
In reply to คำถามเพิ่มเติมหน่อยนะครับ ผมส by czynet
Insert อย่างเดียวครับ และจะใช้งานแค่ตอนที่งานมีปัญหาแล้วถึงจะไปตรวจสอบย้อนกลับ
INSERT ที่ว่า นี่เป็นการ LOAD
czynet Tue, 17/07/2012 - 12:37
In reply to Insert อย่างเดียวครับ by iPomz
INSERT ที่ว่า นี่เป็นการ LOAD ไหมครับ
ประมาณว่า โหลดเข้ามาที 100,000 records หรืออะไรแบบนี้เลย
หรือ INSERT ทีละ 1 records แต่เข้ามารัวๆ ครับ
ข้อมูลไหลเข้า เหมือนเข้า Data warehouse เลยหรือเปล่าครับเนี่ย...
เอาคิวรีมา แล้วกด Ctrl + L
saknarak Tue, 17/07/2012 - 10:32
เอาคิวรีมา แล้วกด Ctrl + L เพื่อดู Execution Plan เพื่อดูว่ามีการใช้งาน index หรือไม่
เอา query กับรูป execution plan จะบอกให้ได้ว่าเป็นยังไง
แค่ 25 ล้าน สบาย ๆ ครับ
อีกจุดที่ควรเช็คคือพวกที่เป็น
Go-Kung Tue, 17/07/2012 - 10:44
อีกจุดที่ควรเช็คคือพวกที่เป็น Composite key ครับ
DBMS บางตัวจะตรงไปตรงมาไม่ค่อย Optimize ให้เราสักเท่าไรเช่น DB2 (ไม่แน่ใจว่า MSSQL เป็นเหมือนกันรึเปล่า)
เช่นมี Composite Key เป็น Table1(A,B,C), Table2(B,C) เวลาเขียน inner join จะใช้ key ของ Table1 ไม่ครบ เพราะ join กันแค่ B, C มันจะไม่ใช้ PK index ของ Table1 ที่สร้างบน A,B,C ทำให้ช้า
แก้ด้วยการเพิ่ม index ของ B, C บน Table1 เข้าไปเอง DBMS ถึงจะเรียกใช้ index ครับ
อุ๊ย ....
PaPaSEK Tue, 17/07/2012 - 11:47
In reply to อีกจุดที่ควรเช็คคือพวกที่เป็น by Go-Kung
อุ๊ย .... ผมนึกตั้งนานว่ามันใช้คำว่าอะไร
composite key นี่เอง .... ขอบคุณครับ
Disk storage management RAID
figgaro Tue, 17/07/2012 - 18:06
Disk storage management RAID R/W Section Table ไหนมีการอ่านเขียนบ่อย แยก Sector ของ Disk,Indexing,Query Plan, Big(O) Analysis,Materialize View, อันสุดท้าย Query Syntax
เก็บ log น่ะซิ แยก table
wichate Tue, 17/07/2012 - 19:22
เก็บ log น่ะซิ แยก table ละวันไปเลย หรือไม่ก็อาทิตย์ละ table ส่วนข้อมูลที่เก่ากว่านั้นก็ส่งไปเก็บรวมไปอีก 1 table (ก่อนที่จะรับของอาทิตย์ใหม่เข้ามา) (คราวนี้ล่ะ query ข้อมูลช่วง 1-2 เดือนแรกเร็วปี๊ด)
partition
nontster Wed, 18/07/2012 - 10:24
partition ข้อมูลตามเวลาน่าจะช่วยได้ครับ SQL Server 2005 support feature นี้แต่ถ้า database ใช้งานตลอดคงต้องวางแผ่นเรื่อง migration ดีๆ
http://www.databasejournal.com/features/mssql/article.php/3638236/Data-partitioning-in-SQL-Server-2005---Part-I.htm
ต้องเป็น enterprise edition
saknarak Wed, 18/07/2012 - 10:25
In reply to partition by nontster
ต้องเป็น enterprise edition ถึงจะใช้ feature นี้ได้ครับ