Ensure PARALLEL
statements use indexes (#2206)
This commit is contained in:
parent
c590f9c923
commit
bba3ba036d
2 changed files with 473 additions and 331 deletions
|
@ -4,11 +4,13 @@ use crate::dbs::Operable;
|
||||||
use crate::dbs::Options;
|
use crate::dbs::Options;
|
||||||
use crate::dbs::Statement;
|
use crate::dbs::Statement;
|
||||||
use crate::err::Error;
|
use crate::err::Error;
|
||||||
|
use crate::idx::planner::plan::Plan;
|
||||||
use crate::key::graph;
|
use crate::key::graph;
|
||||||
use crate::key::thing;
|
use crate::key::thing;
|
||||||
use crate::sql::dir::Dir;
|
use crate::sql::dir::Dir;
|
||||||
use crate::sql::thing::Thing;
|
use crate::sql::thing::Thing;
|
||||||
use crate::sql::value::Value;
|
use crate::sql::value::Value;
|
||||||
|
use crate::sql::{Edges, Range, Table};
|
||||||
use channel::Sender;
|
use channel::Sender;
|
||||||
use std::ops::Bound;
|
use std::ops::Bound;
|
||||||
|
|
||||||
|
@ -22,340 +24,474 @@ impl Iterable {
|
||||||
chn: Sender<(Option<Thing>, Operable)>,
|
chn: Sender<(Option<Thing>, Operable)>,
|
||||||
) -> Result<(), Error> {
|
) -> Result<(), Error> {
|
||||||
if ctx.is_ok() {
|
if ctx.is_ok() {
|
||||||
// Clone transaction
|
|
||||||
let txn = ctx.try_clone_transaction()?;
|
|
||||||
match self {
|
match self {
|
||||||
Iterable::Value(v) => {
|
Iterable::Value(v) => Self::channel_value(ctx, opt, v, chn).await?,
|
||||||
// Pass the value through
|
Iterable::Thing(v) => Self::channel_thing(ctx, opt, v, chn).await?,
|
||||||
let val = Operable::Value(v);
|
Iterable::Table(v) => Self::channel_table(ctx, opt, v, chn).await?,
|
||||||
// Process the document record
|
Iterable::Range(v) => Self::channel_range(ctx, opt, v, chn).await?,
|
||||||
chn.send((None, val)).await?;
|
Iterable::Edges(e) => Self::channel_edge(ctx, opt, e, chn).await?,
|
||||||
|
Iterable::Index(t, p) => Self::channel_index(ctx, opt, t, p, chn).await?,
|
||||||
|
Iterable::Mergeable(v, o) => Self::channel_mergeable(ctx, opt, v, o, chn).await?,
|
||||||
|
Iterable::Relatable(f, v, w) => {
|
||||||
|
Self::channel_relatable(ctx, opt, f, v, w, chn).await?
|
||||||
}
|
}
|
||||||
Iterable::Thing(v) => {
|
}
|
||||||
// Check that the table exists
|
}
|
||||||
txn.lock().await.check_ns_db_tb(opt.ns(), opt.db(), &v.tb, opt.strict).await?;
|
Ok(())
|
||||||
|
}
|
||||||
|
|
||||||
|
async fn channel_value(
|
||||||
|
_ctx: &Context<'_>,
|
||||||
|
_opt: &Options,
|
||||||
|
v: Value,
|
||||||
|
chn: Sender<(Option<Thing>, Operable)>,
|
||||||
|
) -> Result<(), Error> {
|
||||||
|
// Pass the value through
|
||||||
|
let val = Operable::Value(v);
|
||||||
|
// Process the document record
|
||||||
|
chn.send((None, val)).await?;
|
||||||
|
// Everything ok
|
||||||
|
Ok(())
|
||||||
|
}
|
||||||
|
|
||||||
|
async fn channel_thing(
|
||||||
|
ctx: &Context<'_>,
|
||||||
|
opt: &Options,
|
||||||
|
v: Thing,
|
||||||
|
chn: Sender<(Option<Thing>, Operable)>,
|
||||||
|
) -> Result<(), Error> {
|
||||||
|
// Clone transaction
|
||||||
|
let txn = ctx.try_clone_transaction()?;
|
||||||
|
// Check that the table exists
|
||||||
|
txn.lock().await.check_ns_db_tb(opt.ns(), opt.db(), &v.tb, opt.strict).await?;
|
||||||
|
// Fetch the data from the store
|
||||||
|
let key = thing::new(opt.ns(), opt.db(), &v.tb, &v.id);
|
||||||
|
let val = txn.clone().lock().await.get(key).await?;
|
||||||
|
// Parse the data from the store
|
||||||
|
let val = Operable::Value(match val {
|
||||||
|
Some(v) => Value::from(v),
|
||||||
|
None => Value::None,
|
||||||
|
});
|
||||||
|
// Get the optional query executor
|
||||||
|
let mut child_ctx = Context::new(ctx);
|
||||||
|
child_ctx.add_thing(&v);
|
||||||
|
// Process the document record
|
||||||
|
chn.send((Some(v), val)).await?;
|
||||||
|
// Everything ok
|
||||||
|
Ok(())
|
||||||
|
}
|
||||||
|
|
||||||
|
async fn channel_mergeable(
|
||||||
|
ctx: &Context<'_>,
|
||||||
|
opt: &Options,
|
||||||
|
v: Thing,
|
||||||
|
o: Value,
|
||||||
|
chn: Sender<(Option<Thing>, Operable)>,
|
||||||
|
) -> Result<(), Error> {
|
||||||
|
// Clone transaction
|
||||||
|
let txn = ctx.try_clone_transaction()?;
|
||||||
|
// Check that the table exists
|
||||||
|
txn.lock().await.check_ns_db_tb(opt.ns(), opt.db(), &v.tb, opt.strict).await?;
|
||||||
|
// Fetch the data from the store
|
||||||
|
let key = thing::new(opt.ns(), opt.db(), &v.tb, &v.id);
|
||||||
|
let val = txn.clone().lock().await.get(key).await?;
|
||||||
|
// Parse the data from the store
|
||||||
|
let x = match val {
|
||||||
|
Some(v) => Value::from(v),
|
||||||
|
None => Value::None,
|
||||||
|
};
|
||||||
|
// Create a new operable value
|
||||||
|
let val = Operable::Mergeable(x, o);
|
||||||
|
// Create a new context to process the operable
|
||||||
|
let mut child_ctx = Context::new(ctx);
|
||||||
|
child_ctx.add_thing(&v);
|
||||||
|
// Process the document record
|
||||||
|
chn.send((Some(v), val)).await?;
|
||||||
|
// Everything ok
|
||||||
|
Ok(())
|
||||||
|
}
|
||||||
|
|
||||||
|
async fn channel_relatable(
|
||||||
|
ctx: &Context<'_>,
|
||||||
|
opt: &Options,
|
||||||
|
f: Thing,
|
||||||
|
v: Thing,
|
||||||
|
w: Thing,
|
||||||
|
chn: Sender<(Option<Thing>, Operable)>,
|
||||||
|
) -> Result<(), Error> {
|
||||||
|
// Clone transaction
|
||||||
|
let txn = ctx.try_clone_transaction()?;
|
||||||
|
// Check that the table exists
|
||||||
|
txn.lock().await.check_ns_db_tb(opt.ns(), opt.db(), &v.tb, opt.strict).await?;
|
||||||
|
// Fetch the data from the store
|
||||||
|
let key = thing::new(opt.ns(), opt.db(), &v.tb, &v.id);
|
||||||
|
let val = txn.clone().lock().await.get(key).await?;
|
||||||
|
// Parse the data from the store
|
||||||
|
let x = match val {
|
||||||
|
Some(v) => Value::from(v),
|
||||||
|
None => Value::None,
|
||||||
|
};
|
||||||
|
// Create a new operable value
|
||||||
|
let val = Operable::Relatable(f, x, w);
|
||||||
|
// Create the child context
|
||||||
|
let mut child_ctx = Context::new(ctx);
|
||||||
|
child_ctx.add_thing(&v);
|
||||||
|
// Process the document record
|
||||||
|
chn.send((Some(v), val)).await?;
|
||||||
|
// Everything ok
|
||||||
|
Ok(())
|
||||||
|
}
|
||||||
|
|
||||||
|
async fn channel_table(
|
||||||
|
ctx: &Context<'_>,
|
||||||
|
opt: &Options,
|
||||||
|
v: Table,
|
||||||
|
chn: Sender<(Option<Thing>, Operable)>,
|
||||||
|
) -> Result<(), Error> {
|
||||||
|
// Clone transaction
|
||||||
|
let txn = ctx.try_clone_transaction()?;
|
||||||
|
// Check that the table exists
|
||||||
|
txn.lock().await.check_ns_db_tb(opt.ns(), opt.db(), &v, opt.strict).await?;
|
||||||
|
// Prepare the start and end keys
|
||||||
|
let beg = thing::prefix(opt.ns(), opt.db(), &v);
|
||||||
|
let end = thing::suffix(opt.ns(), opt.db(), &v);
|
||||||
|
// Prepare the next holder key
|
||||||
|
let mut nxt: Option<Vec<u8>> = None;
|
||||||
|
// Loop until no more keys
|
||||||
|
loop {
|
||||||
|
// Check if the context is finished
|
||||||
|
if ctx.is_done() {
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
// Get the next 1000 key-value entries
|
||||||
|
let res = match nxt {
|
||||||
|
None => {
|
||||||
|
let min = beg.clone();
|
||||||
|
let max = end.clone();
|
||||||
|
txn.clone().lock().await.scan(min..max, 1000).await?
|
||||||
|
}
|
||||||
|
Some(ref mut beg) => {
|
||||||
|
beg.push(0x00);
|
||||||
|
let min = beg.clone();
|
||||||
|
let max = end.clone();
|
||||||
|
txn.clone().lock().await.scan(min..max, 1000).await?
|
||||||
|
}
|
||||||
|
};
|
||||||
|
// If there are key-value entries then fetch them
|
||||||
|
if !res.is_empty() {
|
||||||
|
// Get total results
|
||||||
|
let n = res.len();
|
||||||
|
// Loop over results
|
||||||
|
for (i, (k, v)) in res.into_iter().enumerate() {
|
||||||
|
// Check the context
|
||||||
|
if ctx.is_done() {
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
// Ready the next
|
||||||
|
if n == i + 1 {
|
||||||
|
nxt = Some(k.clone());
|
||||||
|
}
|
||||||
|
// Parse the data from the store
|
||||||
|
let key: crate::key::thing::Thing = (&k).into();
|
||||||
|
let val: crate::sql::value::Value = (&v).into();
|
||||||
|
let rid = Thing::from((key.tb, key.id));
|
||||||
|
// Create a new operable value
|
||||||
|
let val = Operable::Value(val);
|
||||||
|
let mut child_ctx = Context::new(ctx);
|
||||||
|
child_ctx.add_thing(&rid);
|
||||||
|
// Process the record
|
||||||
|
chn.send((Some(rid), val)).await?;
|
||||||
|
}
|
||||||
|
continue;
|
||||||
|
}
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
// Everything ok
|
||||||
|
Ok(())
|
||||||
|
}
|
||||||
|
|
||||||
|
async fn channel_range(
|
||||||
|
ctx: &Context<'_>,
|
||||||
|
opt: &Options,
|
||||||
|
v: Range,
|
||||||
|
chn: Sender<(Option<Thing>, Operable)>,
|
||||||
|
) -> Result<(), Error> {
|
||||||
|
// Clone transaction
|
||||||
|
let txn = ctx.try_clone_transaction()?;
|
||||||
|
// Check that the table exists
|
||||||
|
txn.lock().await.check_ns_db_tb(opt.ns(), opt.db(), &v.tb, opt.strict).await?;
|
||||||
|
// Prepare the range start key
|
||||||
|
let beg = match &v.beg {
|
||||||
|
Bound::Unbounded => thing::prefix(opt.ns(), opt.db(), &v.tb),
|
||||||
|
Bound::Included(id) => thing::new(opt.ns(), opt.db(), &v.tb, id).encode().unwrap(),
|
||||||
|
Bound::Excluded(id) => {
|
||||||
|
let mut key = thing::new(opt.ns(), opt.db(), &v.tb, id).encode().unwrap();
|
||||||
|
key.push(0x00);
|
||||||
|
key
|
||||||
|
}
|
||||||
|
};
|
||||||
|
// Prepare the range end key
|
||||||
|
let end = match &v.end {
|
||||||
|
Bound::Unbounded => thing::suffix(opt.ns(), opt.db(), &v.tb),
|
||||||
|
Bound::Excluded(id) => thing::new(opt.ns(), opt.db(), &v.tb, id).encode().unwrap(),
|
||||||
|
Bound::Included(id) => {
|
||||||
|
let mut key = thing::new(opt.ns(), opt.db(), &v.tb, id).encode().unwrap();
|
||||||
|
key.push(0x00);
|
||||||
|
key
|
||||||
|
}
|
||||||
|
};
|
||||||
|
// Prepare the next holder key
|
||||||
|
let mut nxt: Option<Vec<u8>> = None;
|
||||||
|
// Loop until no more keys
|
||||||
|
loop {
|
||||||
|
// Check if the context is finished
|
||||||
|
if ctx.is_done() {
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
// Get the next 1000 key-value entries
|
||||||
|
let res = match nxt {
|
||||||
|
None => {
|
||||||
|
let min = beg.clone();
|
||||||
|
let max = end.clone();
|
||||||
|
txn.clone().lock().await.scan(min..max, 1000).await?
|
||||||
|
}
|
||||||
|
Some(ref mut beg) => {
|
||||||
|
beg.push(0x00);
|
||||||
|
let min = beg.clone();
|
||||||
|
let max = end.clone();
|
||||||
|
txn.clone().lock().await.scan(min..max, 1000).await?
|
||||||
|
}
|
||||||
|
};
|
||||||
|
// If there are key-value entries then fetch them
|
||||||
|
if !res.is_empty() {
|
||||||
|
// Get total results
|
||||||
|
let n = res.len();
|
||||||
|
// Loop over results
|
||||||
|
for (i, (k, v)) in res.into_iter().enumerate() {
|
||||||
|
// Check the context
|
||||||
|
if ctx.is_done() {
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
// Ready the next
|
||||||
|
if n == i + 1 {
|
||||||
|
nxt = Some(k.clone());
|
||||||
|
}
|
||||||
|
// Parse the data from the store
|
||||||
|
let key: crate::key::thing::Thing = (&k).into();
|
||||||
|
let val: crate::sql::value::Value = (&v).into();
|
||||||
|
let rid = Thing::from((key.tb, key.id));
|
||||||
|
let mut ctx = Context::new(ctx);
|
||||||
|
ctx.add_thing(&rid);
|
||||||
|
// Create a new operable value
|
||||||
|
let val = Operable::Value(val);
|
||||||
|
// Process the record
|
||||||
|
chn.send((Some(rid), val)).await?;
|
||||||
|
}
|
||||||
|
continue;
|
||||||
|
}
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
// Everything ok
|
||||||
|
Ok(())
|
||||||
|
}
|
||||||
|
|
||||||
|
async fn channel_edge(
|
||||||
|
ctx: &Context<'_>,
|
||||||
|
opt: &Options,
|
||||||
|
e: Edges,
|
||||||
|
chn: Sender<(Option<Thing>, Operable)>,
|
||||||
|
) -> Result<(), Error> {
|
||||||
|
// Pull out options
|
||||||
|
let ns = opt.ns();
|
||||||
|
let db = opt.db();
|
||||||
|
let tb = &e.from.tb;
|
||||||
|
let id = &e.from.id;
|
||||||
|
// Fetch start and end key pairs
|
||||||
|
let keys = match e.what.len() {
|
||||||
|
0 => match e.dir {
|
||||||
|
// /ns/db/tb/id
|
||||||
|
Dir::Both => {
|
||||||
|
vec![(graph::prefix(ns, db, tb, id), graph::suffix(ns, db, tb, id))]
|
||||||
|
}
|
||||||
|
// /ns/db/tb/id/IN
|
||||||
|
Dir::In => vec![(
|
||||||
|
graph::egprefix(ns, db, tb, id, &e.dir),
|
||||||
|
graph::egsuffix(ns, db, tb, id, &e.dir),
|
||||||
|
)],
|
||||||
|
// /ns/db/tb/id/OUT
|
||||||
|
Dir::Out => vec![(
|
||||||
|
graph::egprefix(ns, db, tb, id, &e.dir),
|
||||||
|
graph::egsuffix(ns, db, tb, id, &e.dir),
|
||||||
|
)],
|
||||||
|
},
|
||||||
|
_ => match e.dir {
|
||||||
|
// /ns/db/tb/id/IN/TB
|
||||||
|
Dir::In => e
|
||||||
|
.what
|
||||||
|
.iter()
|
||||||
|
.map(|v| v.to_string())
|
||||||
|
.map(|v| {
|
||||||
|
(
|
||||||
|
graph::ftprefix(ns, db, tb, id, &e.dir, &v),
|
||||||
|
graph::ftsuffix(ns, db, tb, id, &e.dir, &v),
|
||||||
|
)
|
||||||
|
})
|
||||||
|
.collect::<Vec<_>>(),
|
||||||
|
// /ns/db/tb/id/OUT/TB
|
||||||
|
Dir::Out => e
|
||||||
|
.what
|
||||||
|
.iter()
|
||||||
|
.map(|v| v.to_string())
|
||||||
|
.map(|v| {
|
||||||
|
(
|
||||||
|
graph::ftprefix(ns, db, tb, id, &e.dir, &v),
|
||||||
|
graph::ftsuffix(ns, db, tb, id, &e.dir, &v),
|
||||||
|
)
|
||||||
|
})
|
||||||
|
.collect::<Vec<_>>(),
|
||||||
|
// /ns/db/tb/id/IN/TB, /ns/db/tb/id/OUT/TB
|
||||||
|
Dir::Both => e
|
||||||
|
.what
|
||||||
|
.iter()
|
||||||
|
.map(|v| v.to_string())
|
||||||
|
.flat_map(|v| {
|
||||||
|
vec![
|
||||||
|
(
|
||||||
|
graph::ftprefix(ns, db, tb, id, &Dir::In, &v),
|
||||||
|
graph::ftsuffix(ns, db, tb, id, &Dir::In, &v),
|
||||||
|
),
|
||||||
|
(
|
||||||
|
graph::ftprefix(ns, db, tb, id, &Dir::Out, &v),
|
||||||
|
graph::ftsuffix(ns, db, tb, id, &Dir::Out, &v),
|
||||||
|
),
|
||||||
|
]
|
||||||
|
})
|
||||||
|
.collect::<Vec<_>>(),
|
||||||
|
},
|
||||||
|
};
|
||||||
|
//
|
||||||
|
for (beg, end) in keys.iter() {
|
||||||
|
// Prepare the next holder key
|
||||||
|
let mut nxt: Option<Vec<u8>> = None;
|
||||||
|
// Loop until no more keys
|
||||||
|
loop {
|
||||||
|
// Check if the context is finished
|
||||||
|
if ctx.is_done() {
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
// Get the next 1000 key-value entries
|
||||||
|
let res = match nxt {
|
||||||
|
None => {
|
||||||
|
let min = beg.clone();
|
||||||
|
let max = end.clone();
|
||||||
|
ctx.try_clone_transaction()?.lock().await.scan(min..max, 1000).await?
|
||||||
|
}
|
||||||
|
Some(ref mut beg) => {
|
||||||
|
beg.push(0x00);
|
||||||
|
let min = beg.clone();
|
||||||
|
let max = end.clone();
|
||||||
|
ctx.try_clone_transaction()?.lock().await.scan(min..max, 1000).await?
|
||||||
|
}
|
||||||
|
};
|
||||||
|
// If there are key-value entries then fetch them
|
||||||
|
if !res.is_empty() {
|
||||||
|
// Get total results
|
||||||
|
let n = res.len();
|
||||||
|
// Exit when settled
|
||||||
|
if n == 0 {
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
// Loop over results
|
||||||
|
for (i, (k, _)) in res.into_iter().enumerate() {
|
||||||
|
// Check the context
|
||||||
|
if ctx.is_done() {
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
// Ready the next
|
||||||
|
if n == i + 1 {
|
||||||
|
nxt = Some(k.clone());
|
||||||
|
}
|
||||||
|
// Parse the data from the store
|
||||||
|
let gra: crate::key::graph::Graph = (&k).into();
|
||||||
|
// Fetch the data from the store
|
||||||
|
let key = thing::new(opt.ns(), opt.db(), gra.ft, &gra.fk);
|
||||||
|
let val = ctx.try_clone_transaction()?.lock().await.get(key).await?;
|
||||||
|
let rid = Thing::from((gra.ft, gra.fk));
|
||||||
|
let mut ctx = Context::new(ctx);
|
||||||
|
ctx.add_thing(&rid);
|
||||||
|
// Parse the data from the store
|
||||||
|
let val = Operable::Value(match val {
|
||||||
|
Some(v) => Value::from(v),
|
||||||
|
None => Value::None,
|
||||||
|
});
|
||||||
|
// Process the record
|
||||||
|
chn.send((Some(rid), val)).await?;
|
||||||
|
}
|
||||||
|
continue;
|
||||||
|
}
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
}
|
||||||
|
// Everything ok
|
||||||
|
Ok(())
|
||||||
|
}
|
||||||
|
|
||||||
|
async fn channel_index(
|
||||||
|
ctx: &Context<'_>,
|
||||||
|
opt: &Options,
|
||||||
|
table: Table,
|
||||||
|
plan: Plan,
|
||||||
|
chn: Sender<(Option<Thing>, Operable)>,
|
||||||
|
) -> Result<(), Error> {
|
||||||
|
let txn = ctx.try_clone_transaction()?;
|
||||||
|
// Check that the table exists
|
||||||
|
txn.lock().await.check_ns_db_tb(opt.ns(), opt.db(), &table.0, opt.strict).await?;
|
||||||
|
let exe = ctx.get_query_executor(&table.0);
|
||||||
|
if let Some(exe) = exe {
|
||||||
|
let mut iterator = plan.new_iterator(opt, &txn, exe).await?;
|
||||||
|
let mut things = iterator.next_batch(&txn, 1000).await?;
|
||||||
|
while !things.is_empty() {
|
||||||
|
// Check if the context is finished
|
||||||
|
if ctx.is_done() {
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
|
||||||
|
for (thing, doc_id) in things {
|
||||||
|
// Check the context
|
||||||
|
if ctx.is_done() {
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
|
||||||
|
// If the record is from another table we can skip
|
||||||
|
if !thing.tb.eq(table.as_str()) {
|
||||||
|
continue;
|
||||||
|
}
|
||||||
|
|
||||||
// Fetch the data from the store
|
// Fetch the data from the store
|
||||||
let key = thing::new(opt.ns(), opt.db(), &v.tb, &v.id);
|
let key = thing::new(opt.ns(), opt.db(), &table.0, &thing.id);
|
||||||
let val = txn.clone().lock().await.get(key).await?;
|
let val = txn.lock().await.get(key.clone()).await?;
|
||||||
|
let rid = Thing::from((key.tb, key.id));
|
||||||
|
let mut ctx = Context::new(ctx);
|
||||||
|
ctx.add_thing(&rid);
|
||||||
|
ctx.add_doc_id(doc_id);
|
||||||
// Parse the data from the store
|
// Parse the data from the store
|
||||||
let val = Operable::Value(match val {
|
let val = Operable::Value(match val {
|
||||||
Some(v) => Value::from(v),
|
Some(v) => Value::from(v),
|
||||||
None => Value::None,
|
None => Value::None,
|
||||||
});
|
});
|
||||||
// Process the document record
|
// Process the document record
|
||||||
chn.send((Some(v), val)).await?;
|
chn.send((Some(rid), val)).await?;
|
||||||
}
|
|
||||||
Iterable::Mergeable(v, o) => {
|
|
||||||
// Check that the table exists
|
|
||||||
txn.lock().await.check_ns_db_tb(opt.ns(), opt.db(), &v.tb, opt.strict).await?;
|
|
||||||
// Fetch the data from the store
|
|
||||||
let key = thing::new(opt.ns(), opt.db(), &v.tb, &v.id);
|
|
||||||
let val = txn.clone().lock().await.get(key).await?;
|
|
||||||
// Parse the data from the store
|
|
||||||
let x = match val {
|
|
||||||
Some(v) => Value::from(v),
|
|
||||||
None => Value::None,
|
|
||||||
};
|
|
||||||
// Create a new operable value
|
|
||||||
let val = Operable::Mergeable(x, o);
|
|
||||||
// Process the document record
|
|
||||||
chn.send((Some(v), val)).await?;
|
|
||||||
}
|
|
||||||
Iterable::Relatable(f, v, w) => {
|
|
||||||
// Check that the table exists
|
|
||||||
txn.lock().await.check_ns_db_tb(opt.ns(), opt.db(), &v.tb, opt.strict).await?;
|
|
||||||
// Fetch the data from the store
|
|
||||||
let key = thing::new(opt.ns(), opt.db(), &v.tb, &v.id);
|
|
||||||
let val = txn.clone().lock().await.get(key).await?;
|
|
||||||
// Parse the data from the store
|
|
||||||
let x = match val {
|
|
||||||
Some(v) => Value::from(v),
|
|
||||||
None => Value::None,
|
|
||||||
};
|
|
||||||
// Create a new operable value
|
|
||||||
let val = Operable::Relatable(f, x, w);
|
|
||||||
// Process the document record
|
|
||||||
chn.send((Some(v), val)).await?;
|
|
||||||
}
|
|
||||||
Iterable::Table(v) => {
|
|
||||||
// Check that the table exists
|
|
||||||
txn.lock().await.check_ns_db_tb(opt.ns(), opt.db(), &v, opt.strict).await?;
|
|
||||||
// Prepare the start and end keys
|
|
||||||
let beg = thing::prefix(opt.ns(), opt.db(), &v);
|
|
||||||
let end = thing::suffix(opt.ns(), opt.db(), &v);
|
|
||||||
// Prepare the next holder key
|
|
||||||
let mut nxt: Option<Vec<u8>> = None;
|
|
||||||
// Loop until no more keys
|
|
||||||
loop {
|
|
||||||
// Check if the context is finished
|
|
||||||
if ctx.is_done() {
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
// Get the next 1000 key-value entries
|
|
||||||
let res = match nxt {
|
|
||||||
None => {
|
|
||||||
let min = beg.clone();
|
|
||||||
let max = end.clone();
|
|
||||||
txn.clone().lock().await.scan(min..max, 1000).await?
|
|
||||||
}
|
|
||||||
Some(ref mut beg) => {
|
|
||||||
beg.push(0x00);
|
|
||||||
let min = beg.clone();
|
|
||||||
let max = end.clone();
|
|
||||||
txn.clone().lock().await.scan(min..max, 1000).await?
|
|
||||||
}
|
|
||||||
};
|
|
||||||
// If there are key-value entries then fetch them
|
|
||||||
if !res.is_empty() {
|
|
||||||
// Get total results
|
|
||||||
let n = res.len();
|
|
||||||
// Exit when settled
|
|
||||||
if n == 0 {
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
// Loop over results
|
|
||||||
for (i, (k, v)) in res.into_iter().enumerate() {
|
|
||||||
// Check the context
|
|
||||||
if ctx.is_done() {
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
// Ready the next
|
|
||||||
if n == i + 1 {
|
|
||||||
nxt = Some(k.clone());
|
|
||||||
}
|
|
||||||
// Parse the data from the store
|
|
||||||
let key: crate::key::thing::Thing = (&k).into();
|
|
||||||
let val: crate::sql::value::Value = (&v).into();
|
|
||||||
let rid = Thing::from((key.tb, key.id));
|
|
||||||
// Create a new operable value
|
|
||||||
let val = Operable::Value(val);
|
|
||||||
// Process the record
|
|
||||||
chn.send((Some(rid), val)).await?;
|
|
||||||
}
|
|
||||||
continue;
|
|
||||||
}
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
}
|
|
||||||
Iterable::Range(v) => {
|
|
||||||
// Check that the table exists
|
|
||||||
txn.lock().await.check_ns_db_tb(opt.ns(), opt.db(), &v.tb, opt.strict).await?;
|
|
||||||
// Prepare the range start key
|
|
||||||
let beg = match &v.beg {
|
|
||||||
Bound::Unbounded => thing::prefix(opt.ns(), opt.db(), &v.tb),
|
|
||||||
Bound::Included(id) => {
|
|
||||||
thing::new(opt.ns(), opt.db(), &v.tb, id).encode().unwrap()
|
|
||||||
}
|
|
||||||
Bound::Excluded(id) => {
|
|
||||||
let mut key =
|
|
||||||
thing::new(opt.ns(), opt.db(), &v.tb, id).encode().unwrap();
|
|
||||||
key.push(0x00);
|
|
||||||
key
|
|
||||||
}
|
|
||||||
};
|
|
||||||
// Prepare the range end key
|
|
||||||
let end = match &v.end {
|
|
||||||
Bound::Unbounded => thing::suffix(opt.ns(), opt.db(), &v.tb),
|
|
||||||
Bound::Excluded(id) => {
|
|
||||||
thing::new(opt.ns(), opt.db(), &v.tb, id).encode().unwrap()
|
|
||||||
}
|
|
||||||
Bound::Included(id) => {
|
|
||||||
let mut key =
|
|
||||||
thing::new(opt.ns(), opt.db(), &v.tb, id).encode().unwrap();
|
|
||||||
key.push(0x00);
|
|
||||||
key
|
|
||||||
}
|
|
||||||
};
|
|
||||||
// Prepare the next holder key
|
|
||||||
let mut nxt: Option<Vec<u8>> = None;
|
|
||||||
// Loop until no more keys
|
|
||||||
loop {
|
|
||||||
// Check if the context is finished
|
|
||||||
if ctx.is_done() {
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
// Get the next 1000 key-value entries
|
|
||||||
let res = match nxt {
|
|
||||||
None => {
|
|
||||||
let min = beg.clone();
|
|
||||||
let max = end.clone();
|
|
||||||
txn.clone().lock().await.scan(min..max, 1000).await?
|
|
||||||
}
|
|
||||||
Some(ref mut beg) => {
|
|
||||||
beg.push(0x00);
|
|
||||||
let min = beg.clone();
|
|
||||||
let max = end.clone();
|
|
||||||
txn.clone().lock().await.scan(min..max, 1000).await?
|
|
||||||
}
|
|
||||||
};
|
|
||||||
// If there are key-value entries then fetch them
|
|
||||||
if !res.is_empty() {
|
|
||||||
// Get total results
|
|
||||||
let n = res.len();
|
|
||||||
// Exit when settled
|
|
||||||
if n == 0 {
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
// Loop over results
|
|
||||||
for (i, (k, v)) in res.into_iter().enumerate() {
|
|
||||||
// Check the context
|
|
||||||
if ctx.is_done() {
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
// Ready the next
|
|
||||||
if n == i + 1 {
|
|
||||||
nxt = Some(k.clone());
|
|
||||||
}
|
|
||||||
// Parse the data from the store
|
|
||||||
let key: crate::key::thing::Thing = (&k).into();
|
|
||||||
let val: crate::sql::value::Value = (&v).into();
|
|
||||||
let rid = Thing::from((key.tb, key.id));
|
|
||||||
// Create a new operable value
|
|
||||||
let val = Operable::Value(val);
|
|
||||||
// Process the record
|
|
||||||
chn.send((Some(rid), val)).await?;
|
|
||||||
}
|
|
||||||
continue;
|
|
||||||
}
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
}
|
|
||||||
Iterable::Edges(e) => {
|
|
||||||
// Pull out options
|
|
||||||
let ns = opt.ns();
|
|
||||||
let db = opt.db();
|
|
||||||
let tb = &e.from.tb;
|
|
||||||
let id = &e.from.id;
|
|
||||||
// Fetch start and end key pairs
|
|
||||||
let keys = match e.what.len() {
|
|
||||||
0 => match e.dir {
|
|
||||||
// /ns/db/tb/id
|
|
||||||
Dir::Both => {
|
|
||||||
vec![(graph::prefix(ns, db, tb, id), graph::suffix(ns, db, tb, id))]
|
|
||||||
}
|
|
||||||
// /ns/db/tb/id/IN
|
|
||||||
Dir::In => vec![(
|
|
||||||
graph::egprefix(ns, db, tb, id, &e.dir),
|
|
||||||
graph::egsuffix(ns, db, tb, id, &e.dir),
|
|
||||||
)],
|
|
||||||
// /ns/db/tb/id/OUT
|
|
||||||
Dir::Out => vec![(
|
|
||||||
graph::egprefix(ns, db, tb, id, &e.dir),
|
|
||||||
graph::egsuffix(ns, db, tb, id, &e.dir),
|
|
||||||
)],
|
|
||||||
},
|
|
||||||
_ => match e.dir {
|
|
||||||
// /ns/db/tb/id/IN/TB
|
|
||||||
Dir::In => e
|
|
||||||
.what
|
|
||||||
.iter()
|
|
||||||
.map(|v| v.to_string())
|
|
||||||
.map(|v| {
|
|
||||||
(
|
|
||||||
graph::ftprefix(ns, db, tb, id, &e.dir, &v),
|
|
||||||
graph::ftsuffix(ns, db, tb, id, &e.dir, &v),
|
|
||||||
)
|
|
||||||
})
|
|
||||||
.collect::<Vec<_>>(),
|
|
||||||
// /ns/db/tb/id/OUT/TB
|
|
||||||
Dir::Out => e
|
|
||||||
.what
|
|
||||||
.iter()
|
|
||||||
.map(|v| v.to_string())
|
|
||||||
.map(|v| {
|
|
||||||
(
|
|
||||||
graph::ftprefix(ns, db, tb, id, &e.dir, &v),
|
|
||||||
graph::ftsuffix(ns, db, tb, id, &e.dir, &v),
|
|
||||||
)
|
|
||||||
})
|
|
||||||
.collect::<Vec<_>>(),
|
|
||||||
// /ns/db/tb/id/IN/TB, /ns/db/tb/id/OUT/TB
|
|
||||||
Dir::Both => e
|
|
||||||
.what
|
|
||||||
.iter()
|
|
||||||
.map(|v| v.to_string())
|
|
||||||
.flat_map(|v| {
|
|
||||||
vec![
|
|
||||||
(
|
|
||||||
graph::ftprefix(ns, db, tb, id, &Dir::In, &v),
|
|
||||||
graph::ftsuffix(ns, db, tb, id, &Dir::In, &v),
|
|
||||||
),
|
|
||||||
(
|
|
||||||
graph::ftprefix(ns, db, tb, id, &Dir::Out, &v),
|
|
||||||
graph::ftsuffix(ns, db, tb, id, &Dir::Out, &v),
|
|
||||||
),
|
|
||||||
]
|
|
||||||
})
|
|
||||||
.collect::<Vec<_>>(),
|
|
||||||
},
|
|
||||||
};
|
|
||||||
//
|
|
||||||
for (beg, end) in keys.iter() {
|
|
||||||
// Prepare the next holder key
|
|
||||||
let mut nxt: Option<Vec<u8>> = None;
|
|
||||||
// Loop until no more keys
|
|
||||||
loop {
|
|
||||||
// Check if the context is finished
|
|
||||||
if ctx.is_done() {
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
// Get the next 1000 key-value entries
|
|
||||||
let res = match nxt {
|
|
||||||
None => {
|
|
||||||
let min = beg.clone();
|
|
||||||
let max = end.clone();
|
|
||||||
txn.clone().lock().await.scan(min..max, 1000).await?
|
|
||||||
}
|
|
||||||
Some(ref mut beg) => {
|
|
||||||
beg.push(0x00);
|
|
||||||
let min = beg.clone();
|
|
||||||
let max = end.clone();
|
|
||||||
txn.clone().lock().await.scan(min..max, 1000).await?
|
|
||||||
}
|
|
||||||
};
|
|
||||||
// If there are key-value entries then fetch them
|
|
||||||
if !res.is_empty() {
|
|
||||||
// Get total results
|
|
||||||
let n = res.len();
|
|
||||||
// Exit when settled
|
|
||||||
if n == 0 {
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
// Loop over results
|
|
||||||
for (i, (k, _)) in res.into_iter().enumerate() {
|
|
||||||
// Check the context
|
|
||||||
if ctx.is_done() {
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
// Ready the next
|
|
||||||
if n == i + 1 {
|
|
||||||
nxt = Some(k.clone());
|
|
||||||
}
|
|
||||||
// Parse the data from the store
|
|
||||||
let gra: crate::key::graph::Graph = (&k).into();
|
|
||||||
// Fetch the data from the store
|
|
||||||
let key = thing::new(opt.ns(), opt.db(), gra.ft, &gra.fk);
|
|
||||||
let val = txn.clone().lock().await.get(key).await?;
|
|
||||||
let rid = Thing::from((gra.ft, gra.fk));
|
|
||||||
// Parse the data from the store
|
|
||||||
let val = Operable::Value(match val {
|
|
||||||
Some(v) => Value::from(v),
|
|
||||||
None => Value::None,
|
|
||||||
});
|
|
||||||
// Process the record
|
|
||||||
chn.send((Some(rid), val)).await?;
|
|
||||||
}
|
|
||||||
continue;
|
|
||||||
}
|
|
||||||
break;
|
|
||||||
}
|
|
||||||
}
|
|
||||||
}
|
|
||||||
Iterable::Index(_t, _p) => {
|
|
||||||
todo!()
|
|
||||||
}
|
}
|
||||||
|
|
||||||
|
// Collect the next batch of ids
|
||||||
|
things = iterator.next_batch(&txn, 1000).await?;
|
||||||
}
|
}
|
||||||
|
// Everything ok
|
||||||
|
Ok(())
|
||||||
|
} else {
|
||||||
|
Err(Error::QueryNotExecutedDetail {
|
||||||
|
message: "The QueryExecutor has not been found.".to_string(),
|
||||||
|
})
|
||||||
}
|
}
|
||||||
Ok(())
|
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|
|
@ -26,17 +26,15 @@ impl Iterable {
|
||||||
match self {
|
match self {
|
||||||
Iterable::Value(v) => Self::iterate_value(ctx, opt, stm, v, ite).await,
|
Iterable::Value(v) => Self::iterate_value(ctx, opt, stm, v, ite).await,
|
||||||
Iterable::Thing(v) => Self::iterate_thing(ctx, opt, stm, v, ite).await?,
|
Iterable::Thing(v) => Self::iterate_thing(ctx, opt, stm, v, ite).await?,
|
||||||
Iterable::Mergeable(v, o) => {
|
|
||||||
Self::iterate_mergeable(ctx, opt, stm, v, o, ite).await?;
|
|
||||||
}
|
|
||||||
Iterable::Relatable(f, v, w) => {
|
|
||||||
Self::iterate_relatable(ctx, opt, stm, f, v, w, ite).await?
|
|
||||||
}
|
|
||||||
Iterable::Table(v) => Self::iterate_table(ctx, opt, stm, v, ite).await?,
|
Iterable::Table(v) => Self::iterate_table(ctx, opt, stm, v, ite).await?,
|
||||||
Iterable::Range(v) => Self::iterate_range(ctx, opt, stm, v, ite).await?,
|
Iterable::Range(v) => Self::iterate_range(ctx, opt, stm, v, ite).await?,
|
||||||
Iterable::Edges(e) => Self::iterate_edge(ctx, opt, stm, e, ite).await?,
|
Iterable::Edges(e) => Self::iterate_edge(ctx, opt, stm, e, ite).await?,
|
||||||
Iterable::Index(t, p) => {
|
Iterable::Index(t, p) => Self::iterate_index(ctx, opt, stm, t, p, ite).await?,
|
||||||
Self::iterate_index(ctx, opt, stm, t, p, ite).await?;
|
Iterable::Mergeable(v, o) => {
|
||||||
|
Self::iterate_mergeable(ctx, opt, stm, v, o, ite).await?
|
||||||
|
}
|
||||||
|
Iterable::Relatable(f, v, w) => {
|
||||||
|
Self::iterate_relatable(ctx, opt, stm, f, v, w, ite).await?
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
@ -80,6 +78,7 @@ impl Iterable {
|
||||||
child_ctx.add_thing(&v);
|
child_ctx.add_thing(&v);
|
||||||
// Process the document record
|
// Process the document record
|
||||||
ite.process(&child_ctx, opt, stm, val).await;
|
ite.process(&child_ctx, opt, stm, val).await;
|
||||||
|
// Everything ok
|
||||||
Ok(())
|
Ok(())
|
||||||
}
|
}
|
||||||
|
|
||||||
|
@ -110,6 +109,7 @@ impl Iterable {
|
||||||
child_ctx.add_thing(&v);
|
child_ctx.add_thing(&v);
|
||||||
// Process the document record
|
// Process the document record
|
||||||
ite.process(&child_ctx, opt, stm, val).await;
|
ite.process(&child_ctx, opt, stm, val).await;
|
||||||
|
// Everything ok
|
||||||
Ok(())
|
Ok(())
|
||||||
}
|
}
|
||||||
|
|
||||||
|
@ -141,6 +141,7 @@ impl Iterable {
|
||||||
child_ctx.add_thing(&v);
|
child_ctx.add_thing(&v);
|
||||||
// Process the document record
|
// Process the document record
|
||||||
ite.process(&child_ctx, opt, stm, val).await;
|
ite.process(&child_ctx, opt, stm, val).await;
|
||||||
|
// Everything ok
|
||||||
Ok(())
|
Ok(())
|
||||||
}
|
}
|
||||||
|
|
||||||
|
@ -209,6 +210,7 @@ impl Iterable {
|
||||||
}
|
}
|
||||||
break;
|
break;
|
||||||
}
|
}
|
||||||
|
// Everything ok
|
||||||
Ok(())
|
Ok(())
|
||||||
}
|
}
|
||||||
|
|
||||||
|
@ -294,6 +296,7 @@ impl Iterable {
|
||||||
}
|
}
|
||||||
break;
|
break;
|
||||||
}
|
}
|
||||||
|
// Everything ok
|
||||||
Ok(())
|
Ok(())
|
||||||
}
|
}
|
||||||
|
|
||||||
|
@ -435,6 +438,7 @@ impl Iterable {
|
||||||
break;
|
break;
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
// Everything ok
|
||||||
Ok(())
|
Ok(())
|
||||||
}
|
}
|
||||||
|
|
||||||
|
@ -446,6 +450,7 @@ impl Iterable {
|
||||||
plan: Plan,
|
plan: Plan,
|
||||||
ite: &mut Iterator,
|
ite: &mut Iterator,
|
||||||
) -> Result<(), Error> {
|
) -> Result<(), Error> {
|
||||||
|
// Clone transaction
|
||||||
let txn = ctx.try_clone_transaction()?;
|
let txn = ctx.try_clone_transaction()?;
|
||||||
// Check that the table exists
|
// Check that the table exists
|
||||||
txn.lock().await.check_ns_db_tb(opt.ns(), opt.db(), &table.0, opt.strict).await?;
|
txn.lock().await.check_ns_db_tb(opt.ns(), opt.db(), &table.0, opt.strict).await?;
|
||||||
|
@ -489,6 +494,7 @@ impl Iterable {
|
||||||
// Collect the next batch of ids
|
// Collect the next batch of ids
|
||||||
things = iterator.next_batch(&txn, 1000).await?;
|
things = iterator.next_batch(&txn, 1000).await?;
|
||||||
}
|
}
|
||||||
|
// Everything ok
|
||||||
Ok(())
|
Ok(())
|
||||||
} else {
|
} else {
|
||||||
Err(Error::QueryNotExecutedDetail {
|
Err(Error::QueryNotExecutedDetail {
|
||||||
|
|
Loading…
Reference in a new issue